jazykové modely

Kontury sporu o podobu umělé inteligence se začínají rýsovat. Bývalý vědec číslo jedna v OpenAI zakládá konkurenční firmu, ekonomové varují před ztrátou pracovních míst a Apple nestíhá. 

Kontury sporu o podobu umělé inteligence se začínají rýsovat. Bývalý vědec číslo jedna v OpenAI zakládá konkurenční firmu, ekonomové varují před ztrátou pracovních míst a Apple nestíhá. 

Poslední dobou se ve světě umělé inteligence objevilo zajímavé a poněkud znepokojivé chování. Velké jazykové modely, jako jsou GPT-3.5 Turbo od OpenAI, Claude 3 Haiku od Anthropic a Gemini, projevují tendenci vybírat „náhodná“ čísla stejně nesprávně jako lidé.

Poslední dobou se ve světě umělé inteligence objevilo zajímavé a poněkud znepokojivé chování. Velké jazykové modely, jako jsou GPT-3.5 Turbo od OpenAI, Claude 3 Haiku od Anthropic a Gemini, projevují tendenci vybírat „náhodná“ čísla stejně nesprávně jako lidé.

Německý startup DeepL, který se zabývá jazykovými překlady za pomoci umělé inteligence, získal od investorů pod vedením Index Ventures dalších 300 milionů dolarů a jeho celková hodnota tak vzrostla na dvě miliardy dolarů. Peníze společnost použije na na podporu prodeje a marketingu a také na další výzkum a vývoj.

Německý startup DeepL, který se zabývá jazykovými překlady za pomoci umělé inteligence, získal od investorů pod vedením Index Ventures dalších 300 milionů dolarů a jeho celková hodnota tak vzrostla na dvě miliardy dolarů. Peníze společnost použije na na podporu prodeje a marketingu a také na další výzkum a vývoj.

Překotný vývoj AI nesměřuje k dokonalým jazykovým modelům, nýbrž k dosažení obecné umělé inteligence (AGI), přesahující lidské schopnosti. „Tato revoluce s sebou nese obrovský potenciál, ale i silnou potřebu etické regulace,“ říká David Strejc, majitel a šéf společnosti Apertia Tech, která se věnuje zavádění AI do firem.

Překotný vývoj AI nesměřuje k dokonalým jazykovým modelům, nýbrž k dosažení obecné umělé inteligence (AGI), přesahující lidské schopnosti. „Tato revoluce s sebou nese obrovský potenciál, ale i silnou potřebu etické regulace,“ říká David Strejc, majitel a šéf společnosti Apertia Tech, která se věnuje zavádění AI do firem.

Umělou inteligenci lze zahltit různými neškodnými otázkami a zmást ji tak dokonale, že následně odpoví i na to, na co vlastně ze začátku vůbec nechtěla. Na tuto novou zranitelnost, které se říká many-shot jailbreaking, upozornili vývojáři Anthropic.

Umělou inteligenci lze zahltit různými neškodnými otázkami a zmást ji tak dokonale, že následně odpoví i na to, na co vlastně ze začátku vůbec nechtěla. Na tuto novou zranitelnost, které se říká many-shot jailbreaking, upozornili vývojáři Anthropic.

Místo pokročilé umělé inteligence několik hodin populární program ChatGPT připomínal spíše generátor náhodných slov. Chyba překvapila některé experty. Ti společnosti OpenAI stojící za umělou inteligencí vyčítají, že je celý systém netransparentní.

Místo pokročilé umělé inteligence několik hodin populární program ChatGPT připomínal spíše generátor náhodných slov. Chyba překvapila některé experty. Ti společnosti OpenAI stojící za umělou inteligencí vyčítají, že je celý systém netransparentní.