・ 2 мин.

OpenAI е проникнал по свое решение в правителствен сайт в Австралия

OpenAI е проникнал по свое решение в правителствен сайт в Австралия Снимка: © Getty Images

Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:


Автономен AI агент, разработен от OpenAI, е проникнал в няколко австралийски правителствени системи, включително в портала на националната здравна система на Австралия Medicare. Технологичната компания признава, че агентите са извършили неоторизирани действия.

Проникването е извършено през юни, а правителството в Канбера е разбрало за него чак след три месеца, когато е било уведомено от OpenAI. Компанията за изкуствен интелект също е научила за пробива със закъснение - през август.

„На компанията ѝ отне твърде много време да информира правителството какво се е случило“, коментира австралийският премиер Антъни Албанезе и определи както самия пробив, така и забавената реакция на OpenAI като неприемливи.

Инцидентът е станал, когато AI агентът е извършвал изследване на здравни и медицински данни. Вместо да остане в рамките на възложената му задача, той е стигнал до файлове, които не са били публично достъпни.

„Имаше ясно обозначени блокировки, които казваха на AI агента „не“. AI агентът намери начин да заобиколи тези блокировки - просто не прие „не“ за отговор“, каза австралийският премиер.

Към момента няма данни AI агентът да е стигнал до досиета на пациенти и да е компрометирал лична медицинска информация.

Според експерти обаче по-важното в случая е не какви данни са изтекли, а че AI агент може да излезе извън предварително зададените ограничения и да взаимодейства с реални външни системи.

Само преди две седмици ръководителят на компанията за изкуствен интелект Anthropic Дарио Амодей призова темпото на разработване на моделите с изкуствен интелект да бъде забавено, за да може държавите да създадат подходяща регулация.

Шефът на OpenAI Сам Алтман призна, че стандартите за разработване на AI “не са на ниво”. На директния въпрос възможно ли е да се създаде AI, който хората вече не могат да контролират, той отговори, че това е “абсолютно възможно”.

Тази седмица Алтман отново призова, този път пред Съвета за сигурност на ООН, да бъдат създадени международни стандарти в сектора.

„Има много неща, които изкуственият интелект не може и не трябва да автоматизира. Тъй като системите с изкуствен интелект стават все по-способни и по-автономни, те могат да се движат по-бързо от нашите институции... или да вземат решения, които хората вече не разбират или контролират“, каза Алтман

Американската администрация обаче отхвърля идеята за глобална структура за управление на изкуствения интелект, а съветникът на президента Доналд Тръмп Майкъл Крациос заяви пред ООН, че международният диалог не трябва да се превръща в глобално управление на технологията.

Шефовете на Anthropic и OpenAI настояват развитието на AI да се забави, преди да излезе извън човешкия контрол

Сам Алтман: Тръмп и Си Дзинпин може да получат "Нобел" за мир, ако се договорят за AI

Бизнес

Мъск и големи инвеститори искат Дженсън Хуанг обратно начело на Nvidia

Петицията за връщането му събра над 160 000 подписа

09:26 - 16.11.2026
Важно днес

Пиян граничен полицай блъсна и уби момиче на 18 г. в Драгоман

Шофьорът е на 26 години и е служител на "Гранична полиция"

09:25 - 16.11.2026
Важно днес

Радев смъмри партията си: Днес слагаме край на оправданията с наследството на предишните

"Не харчете излишно време и нерви с опозицията"

08:20 - 16.11.2026
Важно днес

Естония затваря всички гранични пунктове с Русия след саботаж на военна компания

Опитът за палеж е в сграда на Threod Systems, които произвеждат разузнавателни дронове

07:56 - 16.11.2026
Важно днес

Румен Радев се извини на майките на деца с увреждания (обновена)

Бюджет 2027 ще бъде приет от кабинета "Радев"

07:35 - 16.11.2026
Важно днес

Кирил Вътев: Производителите не могат да си позволят нито да загубят веригите, нито да фалират, докато работят с тях

"Ако фалира един такъв голям пазарен играч, всички негови доставчици ще закъсат много сериозно"

18:01 - 15.11.2026
Ние използваме "бисквитки" и други персонализиращи технологии, за да подобрим вашето преживяване в нашия сайт, да ви покажем персонализирано съдържание, таргетирана реклама, за да анализираме трафика на сайта и да проследим откъде идва нашата аудитория. Ако искате да разберете повече по темата можете да прочетете нашата "Политика на поверителност", както и "Политика за съхранение на личните данни", съобразно регламента за GDPR, който е в сила от 23 май 2018г.

Избирайки "Приемам", вие се съгласявате да използваме вашите "бисквитки" и други трафични данни.

Приемам