Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Човечеството трябва да "разоръжи" изкуствения интелект и да го извади от логиката на въоръжената надпревара, а тя вече не се ограничава само до военните конфликти, но и до икономическото и когнитивното съперничество.
"Не съществува алгоритъм, който да направи войната морално приемлива".
Разоръжаването не означава отказ от технологиите, а предотвратяване на тяхното господство над човека.
Това казва папа Лъв XIV в своята първа енциклика - програмно послание и един от най-важните документи в Католическата църква. Папата го посвети на предизвикателствата пред хората заради изкуствения интелект.
За първи път папата представи енцикликата лично и в пряко предаване, което може да се гледа през YouTube.
"Magnifica humanitas" ("Великолепното човечество") очертава визията на Лъв XIV за ерата на AI, технологиите и глобалните конфликти.
Той предупреждава, че светът е изправен пред решаващ избор - да изгради нова Вавилонска кула или да построи "град, в който Бог и човечеството живеят заедно".
Изкуственият интелект не е неутрален, а приема облика на онези, които го създават, финансират и управляват.
Всеки технически инструмент има предварително зададени избори и приоритети и те могат да се видят по това какво измерва, какво пренебрегва и какво опитимизира, как класифицира хората и ситуациите.
Той може да имитра човека, но не притежава съзнание, морал, емпатия или духовност, затова се нуждае от независим обществен контрол и международни регулации.
Папата предупреждава още, че концентрацията на технологични ресурси в ръцете на няколко души задълбочава разделението.
Заедно с него на трибуната беше и Крис Ола - съосновател на една от най-големите глобални компании за AI Anthropic.
33-годишният канадски изследовател и милиардер отговаря за изготвянето на т.нар. конституция на чатбота на Anthropic - Claude. Това е система от морални и етични принципи, по която моделът трябва да се регулира. Ола смята, че разработването на AI e цивилизационен въпрос, а не само технически проблем за решаване.
Ола описва три основни теми, които имат нужда от колективна работа, а не да се оставят само на големите компании-разработчици. Тези принципи са: "отговорността към бедните по света", "въображение и амбиция с морал" и "необходимостта от способност да различаваме добро от лошо".
Въпреки че той е определян като атеист - присъствието му във Ватикана редом до папа Лъв XIV се смята за силен сигнал, че църквата иска да води диалог с технологичната индустрия, а не да я заклеймява.
