Florida jako první americký stát zažalovala OpenAI a tvrdí, že ChatGPT může představovat riziko pro děti i veřejnou bezpečnost
Shutterstock.com
Florida žaluje OpenAI. ChatGPT podle úřadů ohrožuje děti a pomáhá plánovat zločiny
Spor o bezpečnost umělé inteligence se v USA posouvá do nové fáze. Florida jako první americký stát zažalovala OpenAI a tvrdí, že ChatGPT může představovat riziko pro děti i veřejnou bezpečnost.
čtk
Florida se stala prvním americkým státem, který zažaloval společnost OpenAI kvůli návrhu a bezpečnosti jejího chatbota ChatGPT. Rozsáhlá žaloba podaná generálním prokurátorem James Uthmeier tvrdí, že OpenAI a její šéf Sam Altman mimo jiné ohrožují děti a vytvářejí u nich závislost. Firma podle žaloby tajila rizika spojená s chatbotem a místo toho usilovala o zisk, informují tiskové agentury.
Žaloba tvrdí, že firma svým přístupem napomáhala plánování trestných činů včetně masové střelby a naváděla k sebevraždě ty uživatele, kteří uvažovali, že se svým životem skoncují. OpenAI ve vyjádření k žalobě uvedla, že zavedla ochranná opatření a pravidla, která jsou podle ní v tomto odvětví špičková.
Právní kroky přicházejí v době, kdy Florida vede trestní vyšetřování, zda ChatGPT sehrál nějakou roli u loňské vraždy dvou lidí při hromadné střelbě na Florida State University. Občanskoprávní žaloba se také snaží přičíst Altmanovi osobní zodpovědnost za údajné „bezohledné a úmyslné jednání“, včetně projevu „naprostého nezájmu o riziko pro lidské životy způsobené činností jeho firem“.
Žaloba vznesla vůči OpenAI řadu obvinění, mimo jiné z klamavých a nekalých obchodních praktik, nedbalosti, porušování zákonů o zodpovědnosti za vadné produkty, podvodného zkreslování skutečností a způsobování veřejné újmy. V žalobě se odkazuje jak na hromadnou střelbu na Floridské státní univerzitě, tak na vraždu dvou doktorandů z University of South Florida. Podezřelý se podle žalobců údajně ptal chatbota ChatGPT na způsoby nakládání s lidskými těly, píše BBC.
„Sam Altman a ChatGPT dali v závodě o AI přednost soupeření před bezpečností našich dětí. Dali přednost zisku před veřejnou bezpečností, a my to tady na Floridě nebudeme tolerovat. Ponesou za to odpovědnost,“ řekl Uthmeier na pondělní tiskové konferenci.
Společnost OpenAI byla založena v roce 2015 jako nezisková výzkumná laboratoř s cílem vyvinout umělou inteligenci, která by byla bezpečná a prospěšná lidstvu. O čtyři roky později vytvořila ziskovou divizi, aby si zajistila financování vysokých nákladů na vývoj AI a svůj další rozvoj.
