„Малко сме уплашени“. Директорът на OpenAI предупреди за рисковете от ChatGPT и AI Снимка: © Getty Images

Сам Алтман, главният изпълнителен директор на OpenAI, разработила нашумялото приложение за изкуствен интелект ChatGPT, предупреди, че технологията крие реални опасности.

37-годишният Алтман подчерта, че регулаторните органи и обществото трябва да бъдат ангажирани с технологията, за да се предпазят от потенциални отрицателни последици за човечеството. „Трябва да сме внимателни“, каза той пред ABC News, като добави: „Мисля, че хората трябва да са щастливи, че малко се страхуваме от това.“

„Особено съм притеснен, че тези модели могат да бъдат използвани за мащабна дезинформация“, даде пример Алтман. „Сега, когато те стават все по-добри в писането на компютърен код, могат да бъдат използвани за кибератаки.“

Но въпреки опасностите, продължи той, това може да бъде и „най-великата технология, която човечеството някога е разработвало“.

Предупреждението на Алтман идва, когато OpenAI пусна най-новата версия на своя езиков модел за изкуствен интелект, GPT-4, което пък се случва по-малко от четири месеца след пускането на чат платформата за публично ползване. ChatGPT предизвика фурор и се превърна в най-бързо развиващото се потребителско приложение в историята.

Алтман, който е инженер по изкуствен интелект, отбелязва, че новата версия „не е съвършена“, но въпреки това е успяла да постигне 90% резултат на изпитите за адвокати в САЩ и почти перфектен резултат на теста по математика SAT за гимназията. По думите му тя може да пише компютърен код на повечето езици за програмиране.

Опасенията относно AI са свързани до голяма степен с това, че хората ще бъдат заменени от машини. Алтман обаче изтъкна, че изкуственият интелект работи само под ръководството на човека и чака някой да му даде входни данни.

Предвид, че това е инструмент, който до голяма степен е под контрола на човека, по-същественият въпрос е кои хора ще разполагат с него.

„Ще има и хора, които няма да поставят някои от границите за безопасност, които ние поставяме“, добави Алтман. „Мисля, че обществото разполага с ограничено време, за да разбере как да реагира на това, как да го регулира, как да се справи с него.“

Много от потребителите на ChatGPT са се сблъскали с гневни реакции от страна на бота, който в даден момент започва да реагира защитно.

Главният изпълнителен директор на Tesla Илон Мъск, един от първите инвеститори в OpenAI, когато тя все още бе компания с нестопанска цел, многократно е отправял предупреждения, че AI или AGI (б.р. – общ изкуствен интелект, характеризиращ се със способността да разбере или научи всяка интелектуална задача, която хората или другите животни могат) е по-опасен от ядрено оръжие.

Мъск изрази загриженост, че Microsoft, която интегрира ChatGPT в своята търсачка Bing, е разпуснала своя отдел за надзор на етиката. „Няма регулаторен надзор на AI, което е *голям* проблем. Призовавам за регулиране на безопасността на AI от повече от десетилетие!“, написа Мъск в Twitter през декември. Преди дни милиардерът написа: „Какво ще остане за нас, хората, да правим?“

Миналата седмица Сам Алтман призна, че последната версия на GPT технологията използва дедуктивни разсъждения, а не запомняне – говорим за процес, който може да доведе до странни реакции. „Нещото, за което се опитвам да предупредя хората най-много, е това, което наричаме „проблем с халюцинациите“, каза Алтман. „Моделът уверено ще твърди неща, сякаш са факти, които (всъщно) са напълно измислени.“

„Правилният начин да се мисли за моделите, които създаваме, е двигател за разсъждения, а не база данни с факти“, добави той и каза, че целта е технологията да се доближи до способността да разсъждава, а не да запомня“.

Това, което получавате, зависи от това, което влагате, предупреди наскоро Guardian в анализ на ChatGPT. „Заслужаваме повече от инструментите, които използваме, медиите, които консумираме, и общностите, в които живеем, и ще получим това, което заслужаваме, само когато сме способни да участваме пълноценно в тях.“

AI-чатботът на Microsoft Bing е маниакален, злопаметен и не вярва, че сме в 2023 г.


Ако нашият сайт ви харесва, можете да се абонирате за седмичния ни нюзлетър тук:

Живот

Терапевтът ви не помага? Опитайте с кон

Конете помагат не само на нас, но и ние на тях

11:00 - 29.03.2024
Бизнес

Алесандро Микеле е новият творчески директор на Valentino

За първи път сред задълженията му ще бъде дизайнът на модни колекции за висшата мода

07:46 - 29.03.2024
Важно днес

Русия отново атакува енергийната инфраструктура на Украйна

При една от атаките е пострадало 5-годишно момиченце

07:46 - 29.03.2024
Бизнес

ФАРА 2024 ще се проведе в Бургас

Заявки за тазгодишното издание на Фестивала ще се приемат до 18 април

21:24 - 28.03.2024
Важно днес

Радан Кънев: Партия ГЕРБ пожела да има избори и си ги получи

Евродепутатът не смята, че промените в конституцията, могат да доведат до криза

18:31 - 28.03.2024
Важно днес

Сарафов, Гешев и Цацаров са извикани на изслушване в комисията за Нотариуса

Последните трима главни прокурори ще бъдат изслушани във връзка с мрежата около Нотариуса

18:24 - 28.03.2024