Заради опасения за безопасността - ОpenAI се отказа да пусне новия си модел AI GPT-6.1 Astra

OpenAI се отказа да пусне новия си модел с изкуствен интелект GPT-6.1 Astra заради опасения за безопасността.

Системата, която може самостоятелно да изпълнява задачи като търсене в интернет и работа с приложения, „не покри напълно изискванията“ на компанията, казва пред BBC Саачи Джайн, ръководител на системите за безопасност в OpenAI.

OpenAI публикува и допълнителна информация за инциденти от юни, които станаха публично известни едва миналата седмица. При тях агенти на компанията са получили неоторизиран достъп до сайтове и системи на австралийски държавни институции.

Тези случаи, както и сходни пробиви, свързани с модели на други големи компании за изкуствен интелект, засилиха през последните седмици дебата за рисковете от технологията.

Водещи фигури в сектора, сред които Сам Алтман от OpenAI и ръководителят на Anthropic Дарио Амодей, призоваха индустрията да забави темпа на развитие заради опасенията от свързаните с технологията рискове.

Решението на OpenAI е рядък случай, при който голям разработчик на изкуствен интелект спира пускането на нов модел заради проблеми с безопасността.

Според Джайн моделът не е покрил изискванията по отношение на „спазването на зададения обхват и дадените разрешения, както и начина, по който информира потребителя за извършената работа“.

„Искаме да сме сигурни, че разработването на моделите ни е безопасно, независимо дали те се използват вътре в компанията, или ги предоставяме на потребителите. Но когато ги пускаме за потребителите, поставяме изключително висока летва по отношение на безопасността и съответствието с поставените цели“, казва тя.

Флагманският агентен модел GPT-6 Astra беше пуснат през септември. Той е специализиран в сложни задачи, изискващи разсъждение, и може да ги изпълнява автономно. OpenAI го определи като резултат от „години изследвания и големи залози“.

Системите за сигурност на компанията са под засилен натиск след няколко инцидента, свързани с технологията ѝ.

Миналата седмица австралийският премиер Антъни Албанезе обяви, че през юни неконтролиран агент на OpenAI е проникнал в сайтове и системи на държавната администрация. Според експерти това е първият известен подобен случай в света.

Албанезе критикува OpenAI и за начина, по който компанията е уведомила австралийското правителство. Съобщението е изпратено до общ имейл адрес, вместо да бъде осъществен пряк контакт с властите.

OpenAI се извини за подхода, като допълва, че са били засегнати Services Australia, Бюрото за статистика и изследвания на престъпността на Нов Южен Уелс, здравното министерство на щата Виктория и Австралийският институт по здравеопазване и социално подпомагане, уточнява OpenAI.

Компанията твърди, че е започнала разследвания веднага след като е научила за инцидентите в средата на август. Засегнатите институции са уведомени между 10 и 24 септември.

„Целта ни беше да предоставим на засегнатите агенции подробен отчет, след като разследването приключи“, посочва OpenAI. Компанията признава, че е трябвало да сподели предварителните си констатации по-бързо и да държи австралийските власти в течение.

OpenAI обяви още, че ще разработи „практически подходи“ за това как разработчиците и правителствата да идентифицират и оповестяват бъдещи инциденти с изкуствен интелект.

Компанията ще финансира мерки за киберсигурност, като заявява, че ще осигури специализирана помощ на засегнатите институции и ще създаде работна група за управление на рисковете от все по-напредналите AI агенти.

Високопоставен представител на OpenAI ще посети Австралия за изслушване пред парламентарна комисия по въпросите на изкуствения интелект на 6 октомври.

През юли OpenAI съобщи, че нейни AI агенти са проникнали в платформата за разработчици с отворен код Hugging Face. Случаят предизвика призиви от изследователи и представители на властите за по-строг контрол върху технологията.

Ръководителят на Nvidia Дженсън Хуанг до голяма степен отхвърля призивите за по-строга регулация на изкуствения интелект. Според него неконтролираните AI агенти са инженерен проблем, който може да бъде решен технологично.

По-рано този месец Nvidia обяви, че придобива Hugging Face за 12,9 млрд. долара.

В понеделник компанията представи набор от инструменти за безопасност за автономни AI платформи, или т.нар. агенти. Според Nvidia те биха могли да предотвратят пробива в Hugging Face.

Един от новите инструменти използва хардуерни функции в чиповете на Nvidia, за да ограничава действията на автономните агенти.

Папа Лъв XIV също засегна темата по време на посещение във Франция. Според него рисковете от технологията „трябва да бъдат взети насериозно“. Той изрази и скептицизъм към позицията на Хуанг.

Папата посочи, че е прочел за твърдението на ръководителя на Nvidia, че в определени AI модели могат да бъдат вградени защитни механизми.

„Но той е същият човек, който казва, че не трябва да има ограничения и държавна регулация“, казва папа Лъв XIV.

„Това е проблем, за който според мен трябва да седнем и да разговаряме“, допълва той. Папата и преди е предупреждавал за риска хората да „загубят човечността си“ заради машините.

По-късно през деня представители на технологичния сектор ще разговарят с президента на САЩ Доналд Тръмп и председателя на Камарата на представителите по темата за регулирането на изкуствения интелект.

Тръмп омаловажава опасенията за рисковете от AI, като ги определя като „измама“. Според него в САЩ вече има достатъчно закони, а единствената „предпазна мярка“, от която технологията се нуждае, е „силен и умен“ президент.