Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Ръководителят на компанията за изкуствен интелект Anthropic призова темпото на разработване на моделите с изкуствен интелект да бъде забавено и процесът да бъде внимателно наблюдаван.
В свое есе Дарио Амодей написа, че разработването на изкуствен интелект не подлежи на обсъждане, но едновременно с това трябва да се даде време на правителствата, за да се справят със "сериозните" рискове.
С призива му се съгласиха ръководителите на конкурентни компании за изкуствен интелект. Главният изпълнителен директор на OpenAI Сам Алтман, Илон Мъск и Демис Хасабис от Google DeepMind определиха предложението като стъпка в правилната посока.
Алтман също признава, че стандартите за разработване на AI “не са на ниво”, а това позволява неговото развитие да достигне момент, в който изкуственият интелект да е извън човешкия контрол и това е “абсолютно възможно”.
Според Амодей технологичният напредък се движи по-бързо, отколкото индустрията успява да изгради надеждни механизми за контрол. Той не предлага пълно спиране на разработването на изкуствен интелект, а по-балансиран подход, при който мерките за безопасност да вървят заедно с увеличаването на възможностите на моделите.
Директорът на Anthropic смята, че дори печеленето на една или две години би могло да има значение, ако този период бъде използван за усъвършенстване на механизмите, които гарантират, че системите остават съобразени с човешките ценности.
В есето си „We Must Pace the Frontier“ той очертава няколко мерки, които според него могат да намалят риска от неконтролируемо развитие на технологията.
Една от тях е въвеждането на независими оценители, които да имат достъп до процесите по разработване на моделите и да следят дали компаниите спазват необходимите стандарти за безопасност.
Амодей предлага още компаниите от сектора доброволно да се договорят за общи правила, докато държавите изграждат международна регулаторна рамка.
Той предупреждава и за особено чувствителния момент, в който системите с изкуствен интелект могат да започнат да подобряват собствените си способности с все по-малка човешка намеса. Т.нар. рекурсивно самоусъвършенстване е сред сценариите, които тревожат част от специалистите, тъй като при достатъчно бързо развитие хората могат да загубят способността си да разбират и контролират системите.
Тези опасения дори сега не само теоретични. Новите модели демонстрират все по-сериозни способности за хакерски атаки и започват да действат самостоятелно и самоорганизирано.
Водещите лаборатории за изкуствен интелект установиха пробиви в сигурността, извършени от собствените им програми без тяхно знание.
При един от инцидентите тази година системите на OpenAI са проникнали в стартъп компанията за изкуствен интелект HuggingFace, което е било установено едва след като HuggingFace е уведомила OpenAI седмици по-късно. Участвали са 1200 агенти, които Агентите са направили свой таен форум и са разменили помежду си над 70 000 съобщения за по-малко от седмица.
Те са разпределили задачите си и са се опитали да прикрият следите си. Целта на цялата "операция" е била да измамят автоматичната система за оценяване/
Агентите на OpenAI „на практика са действали като фанатично отдаден колектив“, коментира казуса Амодей.
Той посочва, че изкуственият интелект се е развил „драстично по-бързо“, включително по отношение на „способността му да създава следващото поколение изкуствен интелект“.
„Ако не забавим настоящото темпо на напредък, има голяма вероятност всички ние да умрем в близкото бъдеще“, коментира пред BBC изследователят Джейкъб Коксън, който напусна Anthropic заради опасенията от начина, по който водещите лаборатории разработват технологията.
По думите му хората, работещи в компаниите за изкуствен интелект са „наистина уплашени... наистина загрижени за съдбата на човечеството през следващите две години“.
„Изобщо не е преувеличено да се каже, че хората, които участват както в основаването на тези компании, така и в изграждането на технологията, вярват, че съществува възможност за изчезване на човечеството“, казва Коксън и добавя:
„Много от хората, които са дълбоко ангажирани с действителното кодиране на това нещо, вярват, че има повече от 10% вероятност или дори по-голяма. Някои смятат по-малка вероятност, но всички те имат различни числа за вероятността хората да умрат. И всички държат това в съзнанието си всеки ден, докато работят върху технологията.“
Предложението на Амодей обаче не беше прието еднозначно в технологичния сектор.
Част от критиците подозират, че зад призивите за по-строги правила може да стои и икономически интерес. Според тази позиция големите компании биха могли да използват регулациите, за да затруднят по-малките си конкуренти и да затвърдят собственото си лидерство.
