Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Някои от най-големите имена в областта на технологиите призовават за шестмесечна пауза в разработването на мащабни проекти с изкуствен интелект (ИИ), като се позовават на "дълбоките рискове за обществото и човечеството".
Десетки технологични лидери, професори и изследователи подписаха писмо по този повод, публикувано от Института за бъдещето на живота, съобщава CNN. Сред тях са милиардерът Илон Мъск, историкът и писател Ювал Ноа Харари, съоснователят на Apple Стив Возняк, американският интернет предприемач Еван Шарп и други.
Позицията им идва само две седмици, след като OpenAI обяви GPT-4 - още по-мощна версия на технологията, която е в основата на нашумялото приложение за изкуствен интелект ChatGPT. Ранните тестове показват, че технологията вече може да изготвя съдебни искове, да полага стандартизирани изпити и да изгражда работещ уебсайт от ръчно нарисувана скица.
В писмото си общността от учени, изследователи и бизнесмени казва, че паузата е необходима за системи за изкуствен интелект "по-мощни от GPT-4". В него се казва също, че независими експерти трябва да работят върху съвместно разработване и прилагане на набор от общи протоколи за инструменти за изкуствен интелект, които са безопасни.
"Усъвършенстваният ИИ би могъл да бъде значителна промяна в историята на живота на Земята и следва да бъде планиран и управляван със съответното внимание и ресурси", пишат те.
"За съжаление, това ниво на планиране и управление не се осъществява, въпреки че през последните месеци лабораториите за ИИ се впуснаха в неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой - дори техните създатели - не може да разбере, предвиди или надеждно да контролира", се казва още в писмото.
Ако в крайна сметка скоро не бъде въведена пауза, правителствата трябва да се намесят и да създадат мораториум, смятат експертите.
Вълната от внимание около ChatGPT в края на миналата година помогна да се поднови надпреварата между технологичните компании за разработване и внедряване на подобни инструменти за изкуствен интелект в техните продукти. OpenAI, Microsoft и Google са начело на тази тенденция, но IBM, Amazon, Baidu и Tencent работят по подобни технологии. Дълъг списък от стартъпи също разработва инструменти за писане и генериране на изображения с изкуствен интелект.
Експертите са все по-загрижени за потенциала на изкуствения интелект да дава пристрастни отговори, способността му да разпространява дезинформация и въздействието върху неприкосновеността на личния живот на потребителите.
Новите инструменти предизвикаха и въпроси за това как ИИ може да промени професиите, да даде възможност на учениците да мамят и да промени отношенията ни с технологиите.
Goldman Sachs: ChatGPT може да удари до 300 млн. работни места по света
