Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Сам Алтман, главният изпълнителен директор на OpenAI, разработила нашумялото приложение за изкуствен интелект ChatGPT, предупреди, че технологията крие реални опасности.
37-годишният Алтман подчерта, че регулаторните органи и обществото трябва да бъдат ангажирани с технологията, за да се предпазят от потенциални отрицателни последици за човечеството. „Трябва да сме внимателни“, каза той пред ABC News, като добави: „Мисля, че хората трябва да са щастливи, че малко се страхуваме от това.“
„Особено съм притеснен, че тези модели могат да бъдат използвани за мащабна дезинформация“, даде пример Алтман. „Сега, когато те стават все по-добри в писането на компютърен код, могат да бъдат използвани за кибератаки.“
Но въпреки опасностите, продължи той, това може да бъде и „най-великата технология, която човечеството някога е разработвало“.
Предупреждението на Алтман идва, когато OpenAI пусна най-новата версия на своя езиков модел за изкуствен интелект, GPT-4, което пък се случва по-малко от четири месеца след пускането на чат платформата за публично ползване. ChatGPT предизвика фурор и се превърна в най-бързо развиващото се потребителско приложение в историята.
Алтман, който е инженер по изкуствен интелект, отбелязва, че новата версия „не е съвършена“, но въпреки това е успяла да постигне 90% резултат на изпитите за адвокати в САЩ и почти перфектен резултат на теста по математика SAT за гимназията. По думите му тя може да пише компютърен код на повечето езици за програмиране.
Опасенията относно AI са свързани до голяма степен с това, че хората ще бъдат заменени от машини. Алтман обаче изтъкна, че изкуственият интелект работи само под ръководството на човека и чака някой да му даде входни данни.
Предвид, че това е инструмент, който до голяма степен е под контрола на човека, по-същественият въпрос е кои хора ще разполагат с него.
„Ще има и хора, които няма да поставят някои от границите за безопасност, които ние поставяме“, добави Алтман. „Мисля, че обществото разполага с ограничено време, за да разбере как да реагира на това, как да го регулира, как да се справи с него.“
Много от потребителите на ChatGPT са се сблъскали с гневни реакции от страна на бота, който в даден момент започва да реагира защитно.
Главният изпълнителен директор на Tesla Илон Мъск, един от първите инвеститори в OpenAI, когато тя все още бе компания с нестопанска цел, многократно е отправял предупреждения, че AI или AGI (б.р. – общ изкуствен интелект, характеризиращ се със способността да разбере или научи всяка интелектуална задача, която хората или другите животни могат) е по-опасен от ядрено оръжие.
Мъск изрази загриженост, че Microsoft, която интегрира ChatGPT в своята търсачка Bing, е разпуснала своя отдел за надзор на етиката. „Няма регулаторен надзор на AI, което е *голям* проблем. Призовавам за регулиране на безопасността на AI от повече от десетилетие!“, написа Мъск в Twitter през декември. Преди дни милиардерът написа: „Какво ще остане за нас, хората, да правим?“
Миналата седмица Сам Алтман призна, че последната версия на GPT технологията използва дедуктивни разсъждения, а не запомняне – говорим за процес, който може да доведе до странни реакции. „Нещото, за което се опитвам да предупредя хората най-много, е това, което наричаме „проблем с халюцинациите“, каза Алтман. „Моделът уверено ще твърди неща, сякаш са факти, които (всъщно) са напълно измислени.“
„Правилният начин да се мисли за моделите, които създаваме, е двигател за разсъждения, а не база данни с факти“, добави той и каза, че целта е технологията да се доближи до способността да разсъждава, а не да запомня“.
Това, което получавате, зависи от това, което влагате, предупреди наскоро Guardian в анализ на ChatGPT. „Заслужаваме повече от инструментите, които използваме, медиите, които консумираме, и общностите, в които живеем, и ще получим това, което заслужаваме, само когато сме способни да участваме пълноценно в тях.“
AI-чатботът на Microsoft Bing е маниакален, злопаметен и не вярва, че сме в 2023 г.
