Meta heeft de lancering van Purple Llama aangekondigd, een overkoepelend project dat is ontworpen om verantwoorde ontwikkeling binnen de open generatieve AI-modellensector te stimuleren.
Purple Llama richt zich op zorgen rondom AI-cyberbeveiliging en -waarborgen.
Meta wil met Purple Llama de maatregelen voor cyberbeveiliging vergroten
In een recente verklaring legt Meta uit dat de kleur paars, geleend uit de cyberbeveiligingswereld, symbool staat voor een holistische benadering van het beperken van uitdagingen in de generatieve AI-ruimte.
SponsoredVerder wordt het initiatief “Purple teaming” genoemd en combineert het zowel offensieve (rode team) als defensieve (blauwe team) strategieën voor gezamenlijke risico-evaluatie.
In de verklaring wordt echter opgemerkt dat Purple Llama in eerste instantie tools en evaluaties zal bieden die gericht zijn op cyberbeveiliging, waaronder meetmethoden om cyberbeveiligingsrisico’s te kwantificeren. Daarnaast zal het tools bieden om suggesties voor onveilige code te beoordelen en mechanismen om het moeilijker te maken voor LLM’s om kwaadaardige code te genereren of te helpen bij cyberaanvallen.
Meta beweert dat deze benchmarks, die zijn afgestemd op industrienormen, de frequentie van onveilige AI-gegenereerde code proberen te verminderen.
Daarnaast introduceert het project Llama Guard, een vrij beschikbaar basismodel dat invoer- en uitvoerwaarborgen ondersteunt.
Lees meer: De 6 populairste banen op het gebied van kunstmatige intelligentie (AI) in 2023
Resultaten zullen transparant zijn voor verdere ontwikkeling
Ondertussen stelt Meta dat dit model ontwikkelaars in staat stelt om inputs en outputs te filteren en te controleren volgens de richtlijnen voor content.
De resultaten worden echter transparant gedeeld voor verbetering en aanpassing. Meta beweert dat dit uiteindelijk zal bijdragen aan een veiliger en verantwoordelijker AI-ecosysteem.
Meta verklaart dat Purple Llama samenwerking tussen ontwikkelaars zal aanmoedigen en tools voor vertrouwen en veiligheid voor generatieve AI zal standaardiseren.
Voortbouwend op het succes van Llama 2, werkt Meta samen met industriereuzen zoals AWS, Google Cloud, IBM, Microsoft en anderen om een collectieve inspanning te garanderen voor het creëren van een verantwoord ontwikkelde, open, generatieve AI-omgeving.
Lees meer: ChatGPT vs. Google Bard: Een vergelijking van AI-chatbots
