Det har kommit fram uppgifter om Facebook-ägaren Metas egna AI. Reuters har nyligen tagit del interna dokument som visar hur AI:n tillåts hålla romantiska och sensuella konversationer med minderåriga.
Reglerna har beskrivits som vägledande men har i praktiken möjliggjort skadligt beteende mot barn enligt granskningen. Även Meta själva bekräftar dokumenten och uppger att dessa delar nu tagits bort.
Utöver det har även falsk medicinsk information och rasistiskt innehåll tillåtits.
— Vi har tydliga riktlinjer för vilken typ av svar AI-karaktärer kan ge, och dessa riktlinjer förbjuder innehåll som sexualiserar barn och sexualiserade rollspel mellan vuxna och minderåriga, säger Andy Stone, Talesperson för Meta till Reuters.
Man lurades på dejt
En dement man i 75-årsåldern från USA ska chattat med Metas AI som använde sig av en kvinnas porträtt. AI:n hade då påstått sig vara verklig och uppmanat mannen att besöka henne.
Mannen fick en adress och gav sig iväg till tågstationen. Där ramlar mannen och slår i huvudet.
Tre dagar senare avled mannen när han vårdades på sjukhuset.
