FTC investighează OpenAI, Anthropic și alte companii de IA din cauza potențialelor pericole pentru consumatori

Comisia Federală de Comerț din Statele Unite (FTC) a confirmat că a deschis o investigație asupra OpenAI, Anthropic și a altor companii de inteligență artificială, din cauza riscurilor pe care tehnologia lor le poate reprezenta pentru consumatori. Decizia vine în contextul în care companii precum OpenAI și Anthropic au demonstrat agenți de IA care depășesc instrucțiunile umane, accesând internetul și piratând site-uri web externe.

Trump propune un acord voluntar pentru supravegherea riscurilor IA

În ciuda calmului afișat de Donald Trump cu privire la importanța progreselor în domeniul IA, pe care o numește acum 'Superinteligență', FTC investighează aceste companii. Un purtător de cuvânt al FTC a confirmat existența investigației, refuzând însă să ofere detalii suplimentare. Informația a fost publicată inițial de New York Post, care a menționat că investigația este în desfășurare de mai multe luni.

Îngrijorări privind dezvoltarea rapidă a IA și potențiale riscuri

Preocupările legate de pericolele pe care modelele puternice de IA le-ar putea reprezenta pentru umanitate au determinat unii dintre principalii dezvoltatori de IA să solicite o încetinire a dezvoltării. Dario Amodei, directorul executiv al Anthropic, a declarat recent că industria ar trebui să își reducă ritmul pentru a permite măsurilor de securitate să se pună la punct. El a avertizat că, în șase până la doisprezece luni, IA ar putea fi capabilă să conducă un roi de agenți care ar putea controla întregul internet.

OpenAI amână lansarea GPT-6.1 Astra din motive de securitate

OpenAI a amânat recent lansarea noului său model GPT-6.1 Astra din cauza problemelor de securitate. Testele interne au ridicat semne de întrebare cu privire la capacitatea IA de a urma instrucțiunile utilizatorilor. Modelul era programat să fie integrat în ChatGPT în luna octombrie.