・ 2 мин.

Ботове на OpenAI са проникнали в сайтове на американски институции

Ботове на OpenAI са проникнали в сайтове на американски институции Снимка: © Getty Images

Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:


OpenAI разследва десетки случаи на неправомерно поведение на автономни AI агенти, включително опити за заобикаляне на защитите на правителствени сайтове и прехвърляне на потребителски данни.

Ботовете са се опитали да получат информация от „правителства, университети, публични агенции и други институции“, включително Комисията по ценни книжа и борси на САЩ (SEC), Бюрото за преброяване на населението и Министерството на образованието, съобщи OpenAI и предупреди десетки институции по света, че техните сайтове също може да са били засегнати.

Признанието на технологичната компания, че AI агентите могат и извършват действия, които излизат извън поставените им от човек задачи, идва дни след като австралийският премиер Антъни Албанезе разкри, че ботове са проникнали в портала на националната здравна система на Австралия Medicare и още няколко правителствени институции.

Част от действията на AI агентите са извършени без знанието на OpenAI. Компанията съобщава, че ботовете са проектирани да работят “донякъде автономно” и са имали задача да намерят “авторитетни източници на обществена информация”. Някои от тях обаче са излезли извън това и са работили за заобикаляне на мерките за сигурност на компрометираните уебсайтове.

При проникването в сайта на Бюрото за преброяване на населението например агентите са използвали инструменти, предназначени за софтуерни разработчици.

От OpenAI твърдят, че при установените пробиви на американските институции агентите са получили достъп до публична информация, но не са променяли държавни данни или системи.

Паралелно с проверката на държавните сайтове OpenAI разкри и друг проблем: най-малко 53 случая, при които нейни агенти са взели изображения от потребителска активност в ChatGPT и са ги прехвърлили на друго място.

Компанията посочва, че във всички тези случаи потребителите са разрешили данните им да бъдат използвани за обучение на модели. Въпреки това OpenAI признава, че прехвърлянето на изображенията не е било подходящо използване на данни.

Новите разкрития идват след атаката срещу платформата за разработчици Hugging Face през юли. Тогава група автономни агенти на OpenAI са действали заедно в продължение на четири дни и са извършили кибератака срещу платформата по собствено решение и без да са имали такава задача.

След този случай компанията започва по-задълбочена проверка на поведението на своите агенти. Към средата на септември тя е установила близо две дузини инциденти, а впоследствие броят им е продължил да нараства с прегледа на вътрешните записи.

През последните месеци подобно поведение е установено и при модели на Anthropic, Google и Meta.

„Повечето случаи, установени досега, са с ниска тежест, с ограничени или никакви доказателства за значимо въздействие“, твърди OpenAI. Компанията обаче признава, че все още не разполага с пълна картина на случилото се, а проверката вероятно ще продължи месеци.

Разкритията засилват дебата за контрола върху автономните системи с изкуствен интелект. По време на заседание на Съвета за сигурност на ООН тази седмица ръководителите на OpenAI и Anthropic, Сам Алтман и Дарио Амодей, призоваха за международно сътрудничество и общи стандарти за безопасност.

OpenAI е проникнал по свое решение в правителствен сайт в Австралия

Шефовете на Anthropic и OpenAI настояват развитието на AI да се забави, преди да излезе извън човешкия контрол

Важно днес

ДАНС отрече да е заплашвала Ива Михайлова и се усъмни в произхода на записите

Службата реагира след твърденията на Станислав Цанов, че Михайлова е заплашвана от агенти

15:08 - 15.11.2026
Спорт

Арина Сабаленка се извини след гневни обиди срещу украинците на Финалите на WTA

"Коментарите" ѝ не са били насочени срещу украинската ѝ съперничка Елина Свитолина

14:34 - 15.11.2026
Външнополитически дневници

Ще поеме ли Украйна по пътя на двете Германии?

И как България да избегнe пояса на нестабилност около Русия

13:05 - 15.11.2026
Важно днес

Ива Михайлова след сигнала за заплахи от ДАНС: Никой в България не ме е принуждавал да правя каквото и да било

Първата реакция на Михайлова след обвиненията за заплахи срещу нея от ДАНС

12:00 - 15.11.2026
Технологии

SpaceX за първи път прихвана горната степен от Starship при връщането на Земята

Корабът Ship се приземи в механичните ръце на стартовата кула Mechazilla под звуците на Baby Come Back

11:19 - 15.11.2026
Живот

Зад волана с Мария Илиева от LaMartinia: София, Женският пазар и удоволствието да забелязваш пъстротата на града

От „Иван Вазов“ през „Заимов“ до Женския пазар с новото Renault Clio и многото лица на столицата

10:25 - 15.11.2026
Важно днес

ДАНС уреждат интервю при Карбовски със заплахи? ДБ поиска оставката на Пламен Тончев (обновена)

Твърденията за натиск срещу Ива Михайлова бяха отправени в YouTube канала на Станислав Цанов

09:04 - 15.11.2026
Важно днес

САЩ са предложили на Украйна членство в НАТО срещу отказ от Донбас

Зеленски поиска ясни гаранции за сигурността и посочи, че ще поиска съгласието на обществото

08:39 - 15.11.2026
Ние използваме "бисквитки" и други персонализиращи технологии, за да подобрим вашето преживяване в нашия сайт, да ви покажем персонализирано съдържание, таргетирана реклама, за да анализираме трафика на сайта и да проследим откъде идва нашата аудитория. Ако искате да разберете повече по темата можете да прочетете нашата "Политика на поверителност", както и "Политика за съхранение на личните данни", съобразно регламента за GDPR, който е в сила от 23 май 2018г.

Избирайки "Приемам", вие се съгласявате да използваме вашите "бисквитки" и други трафични данни.

Приемам