Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Ако разговарям с някого и не мога да разбера дали това е човек или изкуствен интелект (AI/ИИ) - това е краят на демокрацията. Такова мрачно опасение изразява историкът и философ Ювал Ноа Харари за последствията от възхода на изкуствения интелект.
В своя статия за сп. "Economist" авторът на трилогията "Sapiens", "Homo deus" и "21 урока за 21 век" размишлява върху технологичното развитие и ролята на инструменти като чатбота ChatGPT във всекидневието. Той казва, че AI е "хакнал" операционната система на човешката цивилизация и на практика представлява заплаха.
Историкът твърди, че страхът от изкуствения интелект преследва човечеството още от началото на компютърната ера. Появата на новите технологични инструменти през последните години обаче застрашава самото оцеляване на човешката цивилизация в "неочаквана посока".
"AI е придобил някои забележителни способности да манипулира и генерира език - независимо дали с думи, звуци или изображения. По този начин той е хакнал операционната система на нашата цивилизация", пише Харари.
Той припомня своята теза, представена и в трите му книги, че светът се задвижва от истории. И дава пример с правата на човека, които "не са записани в нашето ДНК", но са "културни артефакти, които сме създали като сме разказвали истории". Такъв е случаят и с парите, които нямат реална физическа стойност, но именно историите зад тях им придават такава. Изкуственият интелект обаче може да промени играта.
"Какво ще се случи, когато нечовешки интелект стане по-добър от средния човек в разказването на истории, композирането на мелодии, рисуването на изображения и писането на закони и текстове?", пита Харари.
"Когато хората мислят за ChatGPT и други нови инструменти за AI, те често са привлечени от примери как ученици ги използват, за да пишат есета. Какво ще се случи с училищната система, когато децата започнат да правят това? Но този вид въпроси пропускат голямата картина. Забравете за училищните есета. Помислете за следващата американска президентска надпревара през 2024 г. и се опитайте да си представите въздействието на AI инструментите, които могат да бъдат направени за масово производство на политическо съдържание, фалшиви новини и писания за нови култове", изтъква той.
Авторът повдига и друг въпрос - като например какво би станало, ако се окаже, че водим дълги онлайн дискусии за абортите, климатичните промени или войната в Украйна със същества, които смятаме за хора - а всъщност те се окажат изкуствен интелект.
"Благодарение на владеенето на езика AI може дори да установи интимни отношения с хората и да използва тази сила, за да промени мнението и светогледа ни. Въпреки че няма данни AI да има собствено съзнание или чувства, за да насърчи фалшива интимност с хората, е достатъчно той да може да ги накара да се чувстват емоционално обвързани с него", аргументира се Харари.
Той признава, че новите технологични инструменти ще окажат огромно влияние върху нашите мнения и светоглед, както и върху редица индустрии, включително рекламата и медиите.
"Но дори тези сценарии не отразяват цялостната картина. Това, за което говорим, е потенциален край на човешката история. Не краят на историята, а само краят на нейната доминирана от човека част", пише историкът.
"Какво ще се случи с хода на историята, когато AI завладее културата и започне да създава истории, мелодии, закони и религии? Предишните инструменти като печатарската преса и радиото са помогнали за разпространението на културните идеи на хората, но те никога не са създавали нови собствени културни идеи. AI е коренно различен. Той може да създава напълно нови идеи, напълно нова култура".
Във финалните си думи Харари призовава за бързи действия във връзка с регулация на новите инструменти.
"Първата решаваща стъпка е да изискаме строги проверки за безопасност преди мощните инструменти за изкуствен интелект да бъдат пуснати в публичното пространство. Точно както една фармацевтична компания не може да пуска нови лекарства, преди да е проверила както краткосрочните, така и дългосрочните им странични ефекти, така и технологичните компании не трябва да пускат нови инструменти, ако още не е доказано, че са безопасни. Нуждаем се от еквивалент на Агенцията по храните и лекарствата за новите технологии и то още вчера", пише философът.
Ювал Ноа Харари е известен с коментарите си за възможностите и заплахите от изкуствения интелект в последно време. Преди месец той се включи в отворено писмо, с което се призовава за шестмесечна пауза в разработването на мащабни проекти с AI заради "дълбоките рискове за обществото и човечеството". Сред подписалите се са и други големи имена в областта на технологиите, включително милиардерът Илон Мъск, съоснователят на Apple Стив Возняк и американският интернет предприемач Еван Шарп.
Ювал Ноа Харари и други учени и предприемачи искат "пауза" в развитието на изкуствения интелект
