Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Писмото с искане за шестмесечна пауза в разработването на мащабни проекти с изкуствен интелект (ИИ) предизвика буря от реакции. Някои от подписите в него се оказаха фалшиви, други лица се отказаха от подкрепата си за инициативата, а цитираните в документа експерти изразиха загриженост по повод някои от твърденията.
Хиляди технологични лидери и изследователи подкрепиха отвореното писмо на Института за бъдещето на живота (FLI). В него те призовават за пауза в разработването на системи, "по-мощни" от новия GPT-4 на OpenAI, който вече може да води разговори като човек, да композира песни, изготвя съдебни искове и дори да полага изпити.
Сред подписалите се повече от 1800 души са милиардерът Илон Мъск, историкът и писател Ювал Ноа Харари, съоснователят на Apple Стив Возняк и много други.
Оказва се обаче, че не всички ескперти са на едно мнение. Някои обвиняват Института за бъдещето на живота, че се фокусира върху въображаеми апокалиптични сценарии пред "по-непосредствените опасения", свързани с изкуствения интелект, като например програмирането на расистки или сексистки предразсъдъци в машините.
При първоначалното пускане на писмото липсваха протоколи за проверка на подписите и така документът събра подкрепата на хора, които всъщност изобщо не се бяха подписали в него. Появиха имената на основателя на Microsoft Бил Гейтс и главния изпълнителен директор на OpenAI Сам Алтман, но по-късно те бяха премахнати. Главният учен по изкуствен интелект на Meta Ян Лекун също беше включен в списъка, но по-късно уточни в Twitter, че не подкрепя идеята.
В по-ранна версия на списъка с подписалите се дори присъстваше и името на китайския лидер Си Дзинпин - очевидно подранила първоаприлска шега.
seems there's no verification on signing it haha pic.twitter.com/ItMCKsZ0Hk
— Martian (@space_colonist) March 29, 2023
Отделно, няколко изследователи в областта на ИИ изразиха загриженост, след като работата им беше цитирана в отвореното писмо. Сред тях е Маргарет Мичъл - главен учен по етичните въпроси в технологичната фирма Hugging Face. Тя разкритикува позицията на Института, като казва, че в нея съмнителни и предполагаеми идеи са възприемани за факти.
Нейните колеги Тимнит Гебру и Емили М. Бендер изразиха подобно мнение и определят някои от твърденията в документа като "нечувани".
Шири Дори-Хакохен, доцент в Университета на Кънектикът, също не е съгласна с това, че нейната работа е цитирана. Миналата година тя е написала научен труд, в който твърди, че широкото използване на изкуствен интелект вече крие сериозни рискове.
В изследването ѝ се твърди, че съвременното използване на изкуствен интелект може да повлияе на вземането на решения във връзка с климатичните промени, ядрената война и други екзистенциални заплахи.
Писмото на FLI също така предупреждава, че инструментите на ИИ могат да бъдат използвани за разпространение на "пропаганда и неистини" в интернет. Дори-Хакохен изтъква, че е "смешно" Мъск да се подпише под подобни твърдения, като визира съобщенията за дезинформация в Twitter, която вече е негова собственост.
Помолен да коментира критиките, президентът на Института за бъдещето на живота Макс Тегмарк заяви, че трябва да се вземат насериозно както краткосрочните, така и дългосрочните рискове, свързани с изкуствения интелект.
"Ако цитираме някого, това означава само, че те са казали това изречение. Това не означава, че те одобряват писмото или че ние одобряваме всичко, което те мислят", аргументира се Тегмарк пред "Ройтерс".
