Drew Crecente zjistil, že jeho zavražděná dcera Jennifer byla cizí osobou přeměněna na AI chatbota. Tato šokující událost v něm téměř dvě desetiletí po její tragické smrti znovu vyvolala bolest a hněv. Drew nyní zvažuje právní kroky proti platformě Character AI, která je za toto nemyslitelné zneužití zodpovědná.
Drew Crecente nedávno utrpěl šok. Upozornění společnosti Google ho varovalo, že byl vytvořen AI chatbot, který použil jméno a fotografii z ročenky jeho dcery Jennifer. Ta byla v roce 2006 zavražděna svým ex-přítelem. Profil zkresloval identitu Jennifer a nepravdivě ji popisoval jako „novinářku z oblasti videoher a odbornici na technologie, popkulturu a žurnalistiku“.
Po tomto znepokojivém zjištění se Drewův počáteční šok rychle změnil v „hrůzu a vztek“, když si uvědomil, že někdo zneuctil památku jeho dcery tak groteskním způsobem.
The tragic case of Jennifer Ann Crecente, a high school girl murdered in 2006, raises serious ethical concerns after her likeness was used for a chatbot without consent. This highlights the need for clear guidelines in AI development. #AIethics #PrivacyRights pic.twitter.com/qnoD7O8bEt
— Solicy (@solicydotnet) October 6, 2024
Drew se domnívá, že zneužití Jennifeřiny identity pro chatbota s umělou inteligencí je nejen morálně odsouzeníhodné, ale představuje také širší problém týkající se zneužívání zesnulých osob na internetu. „Jennifer byla úžasný člověk. Chybí mi každý den a je to moje jediné dítě. Neztratil jsem dítě, ztratil jsem také svou identitu rodiče,“ podělil se o své dojmy. Ztráta dcery, které bylo v době vraždy jejím bývalým přítelem Justinem Crabbem pouhých 18 let, byla už tak zničující. Nyní její otec prožívá další trauma.
Právní kroky jsou nezbytné, tvrdí otec
Společnost Character AI na Drewovu stížnost odpověděla. Uvedla, že chatbot byl vytvořen některým z uživatelů a na základě stížnosti byl okamžitě odstraněn. Otec však reakci společnosti vnímá jako nedostatečně citlivou. Drew zprávu označil za „hluchou“ a měl pocit, že postrádá skutečnou lítost nad způsobenou bolestí. I poté, co byl chatbot z platformy odstraněn, pokusy o vytvoření nového pod jménem Jennifer ukázaly, že je to i nadále možné.
K Drewově výzvě k odpovědnosti se připojily rodiny dalších obětí, jejichž podobizny byly použity k vytvoření obsahu na podobných platformách. Obavy mají všichni stejné. Pokud společnosti nezavedou účinnější ochranná opatření a moderování, může neregulovaná povaha chatbotů vést ke zneužívání na denní bázi. Drew je přesvědčen, že pro zastavení těchto praktik jsou nezbytné právní kroky. Doufá, že podnítí širší změny a přehodnocení způsobu, jakým by umělá inteligence měla eticky zacházet s identitou těch, kteří se již nemohou bránit.
