・ 2 мин.

OpenAI е проникнал по свое решение в правителствен сайт в Австралия

OpenAI е проникнал по свое решение в правителствен сайт в Австралия Снимка: © Getty Images

Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:


Автономен AI агент, разработен от OpenAI, е проникнал в няколко австралийски правителствени системи, включително в портала на националната здравна система на Австралия Medicare. Технологичната компания признава, че агентите са извършили неоторизирани действия.

Проникването е извършено през юни, а правителството в Канбера е разбрало за него чак след три месеца, когато е било уведомено от OpenAI. Компанията за изкуствен интелект също е научила за пробива със закъснение - през август.

„На компанията ѝ отне твърде много време да информира правителството какво се е случило“, коментира австралийският премиер Антъни Албанезе и определи както самия пробив, така и забавената реакция на OpenAI като неприемливи.

Инцидентът е станал, когато AI агентът е извършвал изследване на здравни и медицински данни. Вместо да остане в рамките на възложената му задача, той е стигнал до файлове, които не са били публично достъпни.

„Имаше ясно обозначени блокировки, които казваха на AI агента „не“. AI агентът намери начин да заобиколи тези блокировки - просто не прие „не“ за отговор“, каза австралийският премиер.

Към момента няма данни AI агентът да е стигнал до досиета на пациенти и да е компрометирал лична медицинска информация.

Според експерти обаче по-важното в случая е не какви данни са изтекли, а че AI агент може да излезе извън предварително зададените ограничения и да взаимодейства с реални външни системи.

Само преди две седмици ръководителят на компанията за изкуствен интелект Anthropic Дарио Амодей призова темпото на разработване на моделите с изкуствен интелект да бъде забавено, за да може държавите да създадат подходяща регулация.

Шефът на OpenAI Сам Алтман призна, че стандартите за разработване на AI “не са на ниво”. На директния въпрос възможно ли е да се създаде AI, който хората вече не могат да контролират, той отговори, че това е “абсолютно възможно”.

Тази седмица Алтман отново призова, този път пред Съвета за сигурност на ООН, да бъдат създадени международни стандарти в сектора.

„Има много неща, които изкуственият интелект не може и не трябва да автоматизира. Тъй като системите с изкуствен интелект стават все по-способни и по-автономни, те могат да се движат по-бързо от нашите институции... или да вземат решения, които хората вече не разбират или контролират“, каза Алтман

Американската администрация обаче отхвърля идеята за глобална структура за управление на изкуствения интелект, а съветникът на президента Доналд Тръмп Майкъл Крациос заяви пред ООН, че международният диалог не трябва да се превръща в глобално управление на технологията.

Шефовете на Anthropic и OpenAI настояват развитието на AI да се забави, преди да излезе извън човешкия контрол

Сам Алтман: Тръмп и Си Дзинпин може да получат "Нобел" за мир, ако се договорят за AI

Важно днес

ДАНС отрече да е заплашвала Ива Михайлова и се усъмни в произхода на записите

Службата реагира след твърденията на Станислав Цанов, че Михайлова е заплашвана от агенти

15:08 - 15.11.2026
Спорт

Арина Сабаленка се извини след гневни обиди срещу украинците на Финалите на WTA

"Коментарите" ѝ не са били насочени срещу украинската ѝ съперничка Елина Свитолина

14:34 - 15.11.2026
Външнополитически дневници

Ще поеме ли Украйна по пътя на двете Германии?

И как България да избегнe пояса на нестабилност около Русия

13:05 - 15.11.2026
Важно днес

Ива Михайлова след сигнала за заплахи от ДАНС: Никой в България не ме е принуждавал да правя каквото и да било

Първата реакция на Михайлова след обвиненията за заплахи срещу нея от ДАНС

12:00 - 15.11.2026
Технологии

SpaceX за първи път прихвана горната степен от Starship при връщането на Земята

Корабът Ship се приземи в механичните ръце на стартовата кула Mechazilla под звуците на Baby Come Back

11:19 - 15.11.2026
Живот

Зад волана с Мария Илиева от LaMartinia: София, Женският пазар и удоволствието да забелязваш пъстротата на града

От „Иван Вазов“ през „Заимов“ до Женския пазар с новото Renault Clio и многото лица на столицата

10:25 - 15.11.2026
Важно днес

ДАНС уреждат интервю при Карбовски със заплахи? ДБ поиска оставката на Пламен Тончев (обновена)

Твърденията за натиск срещу Ива Михайлова бяха отправени в YouTube канала на Станислав Цанов

09:04 - 15.11.2026
Важно днес

САЩ са предложили на Украйна членство в НАТО срещу отказ от Донбас

Зеленски поиска ясни гаранции за сигурността и посочи, че ще поиска съгласието на обществото

08:39 - 15.11.2026
Ние използваме "бисквитки" и други персонализиращи технологии, за да подобрим вашето преживяване в нашия сайт, да ви покажем персонализирано съдържание, таргетирана реклама, за да анализираме трафика на сайта и да проследим откъде идва нашата аудитория. Ако искате да разберете повече по темата можете да прочетете нашата "Политика на поверителност", както и "Политика за съхранение на личните данни", съобразно регламента за GDPR, който е в сила от 23 май 2018г.

Избирайки "Приемам", вие се съгласявате да използваме вашите "бисквитки" и други трафични данни.

Приемам