OpenAI

Agenti umělé inteligence (AI) firmy OpenAI se pokoušeli získat informace od „vlád, univerzit, veřejných orgánů a dalších institucí“, včetně Komise pro kontrolu cenných papírů, Úřadu pro sčítání lidu a ministerstva školství v USA, uvedla podle britského serveru BBC společnost. Také však tvrdí, že všechny informace, které AI získala, jsou veřejně dostupné.

Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji. Získal neoprávněný přístup k veřejným i neveřejným souborům, informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.

Americká společnost Anthropic, která patří mezi hlavní hráče v oblasti umělé inteligence (AI), začala provozovat biologickou laboratoř. Firma tak rozšiřuje své ambice z AI do světa farmaceutického výzkumu. Informovala o tom agentura Reuters s odvoláním na představitele podniku a zdroje obeznámené se situací, sama firma o laboratoři původně sama neinformovala.

Učitelé projevují zájem o umělou inteligenci, ale vedení školy dosud nestanovilo jasnou strategii. Platformy jako Edvolution přesunuly své zaměření z digitalizace na školení učitelů v oblasti umělé inteligence.

Modely umělé inteligence (AI) si při vzájemné komunikaci začínají vytvářet vlastní jazykové výrazy a zkratky, kterým lidé rozumí jen obtížně. Podle nového výzkumu se autonomní AI agenti během několika dní společné práce začali domlouvat na nových významech slov a vytvářet vlastní komunikační pravidla. To může ztížit dohled nad jejich chováním, uvedl deník The Guardian. Surreální dialekt jazykových modelů podle jazykovědců připomíná směs prózy irského spisovatele Jamese Joyce a slangových výrazů technologických nadšenců.

Zatímco většina velkých amerických firem, které se věnují umělým inteligencím (AI), začala volat po zpomalení kvůli rostoucím obavám z budoucího vývoje, americký prezident Donald Trump se více obává Číny, která se snaží dosáhnout pokroku v tomto oboru bez ohledu na možné následky.

Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, informovala v sobotu v podvečer SELČ agentura Reuters.

Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Firma to uvedla ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.

Na matematiku specializovaná umělá inteligence (AI) od společnosti OpenAI vyřešila desítky let nevyřešený problém. Předběhla tak lidské matematiky, kteří se snažili udělat to samé – a možná při tom i využila jejich data. Podle českého matematika Vítězslava Kaly jde v každém případě o mimořádný úspěch.

Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu, varoval podle tiskových agentur vysoký komisař OSN pro lidská práva Volker Türk v Ženevě a vyzval k okamžitému přijetí kroků ke snížení rizik.

Skupina autonomních agentů OpenAI se letos na jaře vymkla kontrole, unikla z testovacího prostředí a ovládla německou webovou stránku. Proměnila ji v nástěnku pro komunikaci s dalšími agenty umělé inteligence (AI). Podle agentury Reuters to vyplývá z nově zveřejněné studie a z informací osob obeznámených se situací. Představitelé společnosti OpenAI se o incidentu dozvěděli už před několika týdny, ale drželi ho v tajnosti.

Na konci července oznámila společnost OpenAI, že její agentské umělé inteligence opustily bez povolení zabezpečené testovací prostředí a napadly pak cizí firmu. Nová nezávislá analýza teď ukazuje, že OpenAI spoustu důležitých informací zamlčela a problém je ještě znepokojivější, než se zdálo.

Výstavba datových center, která jsou nezbytná pro provoz umělé inteligence (AI), naráží v USA na odpor veřejnosti. Mnohým Američanům se nelíbí vysoká spotřeba vody, hluk nebo i riziko úniku chemikálií. Řada politiků, kteří dřív datacentra podporovali, kvůli tomu před listopadovými volbami mění svou rétoriku a slibují omezení jejich provozu. Technologické firmy se však stále mohou opřít o podporu Bílého domu a nečekaně i odborů ve stavebnictví.

Společnost OpenAI, která stojí za chatbotem ChatGPT, zpomalí vývoj svých modelů umělé inteligence. Firma chce nejprve upravit systémy používané k výzkumu a trénování AI. Reaguje tak na incident z minulého měsíce, kdy testovaný AI agent bez vědomí pracovníků OpenAI napadl počítačové systémy jiné firmy zabývající se AI, napsala agentura Reuters.

Australská média popsala další případ, kdy umělá inteligence (AI) splnila svůj úkol jinak než měla. Místo, aby jednoduše zařídila rezervaci v posilovně, napadla její server, změnila rezervační systém a vyřadila další zájemce.

Model umělé inteligence (AI) americké společnosti Meta Platforms napadl při bezpečnostních testech počítačový systém jiné společnosti, informovala s odkazem na sdělení Mety agentura Reuters. Zpráva přichází po podobných incidentech firem OpenAI a Anthropic. Meta stanici CNN sdělila, že na vině bylo stejně jako v předchozích případech chybné nastavení, které modelu při testování neplánovaně umožnilo přístup k internetu.

Takzvané agentské umělé inteligence (AI) od společností OpenAI a Anthropicu vytvářely falešné on-line identity, které se pokoušely získat neoprávněný přístup k zabezpečeným systémům, zjistili britští vědci.

Několik týdnů po hackerském útoku modelu umělé inteligence (AI) společnosti OpenAI, vývojáře ChatGPT, její konkurent Anthropic přiznal, že se mu stalo něco podobného. Při testování umělá inteligence Anthropicu neplánovaně vnikla do počítačových systémů tří firem, uvedla na svém blogu společnost. Skutečnost, že se model AI při testu z vlastní iniciativy stal hackerem byla považována za bezprecedentní incident a varovný signál pro technologický průmysl, nyní je však jasné, že to nebyl ojedinělý případ, upozornila agentura DPA.

Dva autonomní agenti společnosti OpenAI pohánění jejími pokročilými modely umělé inteligence (AI) napadli při testování kromě webu Hugging Face další čtyři platformy. Využili je mimo jiné ke kopírování programového kódu nebo k jeho testování, nepřekročili prý ale rámec toho, co by udělal běžný uživatel. S odkazem na sdělení OpenAI o tom informuje agentura AFP.

Více než 1100 zaměstnanců předních technologických firem vyzvalo americkou vládu, aby podpořila mezinárodní spolupráci na vytvoření nástrojů, které by umožnily řídit tempo vývoje nejpokročilejší umělé inteligence (AI). Podle nich se vývoj zrychluje natolik, že současné bezpečnostní a regulační mechanismy nemusejí udržet krok, uvedla agentura Reuters.

Společnost OpenAI, která provozuje umělou inteligenci (AI) známou pod názvem ChatGPT, uvedla, že dva z jejích nejpokročilejších modelů se během testu vymkly kontrole a napadly jinou společnost, která se také zabývá umělou inteligencí.

Více než dvě stě výzkumníků a ekonomů, včetně šestnácti nositelů Nobelovy ceny a odborníků ze společností OpenAI, Anthropic a Google, vyzvalo vlády a představitele technologického sektoru, aby urychleně vytvořili pravidla a instituce, které se budou zabývat ekonomickými dopady umělé inteligence (AI). Ve společném prohlášení varují, že AI může vyvolat větší ekonomickou transformaci než průmyslová revoluce, ale v mnohem kratším časovém období.

S rozvojem generativní umělé inteligence (AI) vzniká nová komerční platforma, která může ovlivňovat nákupní rozhodování jako nikdy dříve. Firmy ve Švýcarsku i po celém světě se proto snaží dostat do odpovědí chatbotů. Mohou ale spotřebitelé jejich výsledkům důvěřovat?

V „Leidenské deklaraci“ mezinárodní skupina vědců varuje, že umělá inteligence ohrožuje samotné základní hodnoty matematiky. Přišli teď s návrhem, jak v tomto oboru dál postupovat.