Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Служители на Google напускат заради договорите на компанията за предоставяне на изкуствен интелект на военните, съобщава BBC. Медията е разговаряла с няколко настоящи и бивши служители на Google DeepMind – подразделението, което разработва AI технологиите на компанията.
Сред тях е София Лигуори, инженерка в Лондон, която е подала оставка тази седмица след три години в DeepMind.
https://x.com/pbrown4348/status/2113038336864505997
Тя обяснява решението си с разрастващото се сътрудничество на Google с армиите на САЩ и Израел.
„Осъзнаването, че компанията ми все повече настоява за AI системи във военни операции, ме кара да се срамувам, че работя в Google“, казва тя пред BBC.
Изследователят Андреас Кирш също е напуснал този месец. Според него сегашните AI модели не са достатъчно надеждни за военни задачи, а Google няма достатъчен контрол върху начина, по който Пентагонът използва технологията.
https://x.com/BlackHC/status/2112993874528313829
По-рано тази година компанията е подписала договор, който позволява на американските военни да използват нейния AI и за секретни задачи.
Споразумението допуска употреба за „всяка законна правителствена цел“. В него е записано, че моделите не бива да се използват за масово наблюдение в САЩ или за автономни оръжия без подходящ човешки надзор и контрол. Това важи и когато AI се използва за избор на цели за удар.
Основното притеснение на критиците е дали хората могат действително да проверяват решенията, предложени от AI. Пред BBC бившата ръководителка на екипа по геополитика в OpenAI Сара Шокър обяснява, че когато системата подбира стотици цели за кратко време, за военните става почти невъзможно да проверят всяка от тях за грешки.
Служители разказват и че се страхуват да говорят публично заради договорни ограничения и опасения за кариерата си.
Google отговаря, че проверява договорите си за съответствие с правилата и принципите си за използване на AI. Компанията посочва, че служителите могат да подават сигнали по защитени вътрешни канали и че забранява ответни действия срещу тях.
