Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Часове преди изненадващото отстраняване на Сам Алтман от собствената му компания, няколко служители на OpenAI изпращат писмо до борда на директорите. В него те предупреждават за голямо откритие в областта на изкуствения интелект, което според тях може да застраши човечеството.
Официално OpenAI отказва коментар по темата, но един от служителите, пожелал да остане аноминен, признава за вътрешно съобщение до служителите за проект, наречен Q* (или Q Star), и писмо, изпратено до борда на директорите.
Въпросното писмо, според източници на агенция "Ройтерс", е сред факторите довели до неочакваното уволение на Алтман, което хвръли компанията в хаос.
Какво е проект Q*?
Някои служители в OpenAI смятат, че Q* може да се окаже пробив в търсенето на т.нар. изкуствен общ интелект (AGI).
Такова е и мнението на един от служителите на компанията, който говори пред „Ройтерс“.
OpenAI определя общия изкуствен интелект като автономни системи, които надминават хората в повечето икономически значими задачи.
Източник, пожелал анонимност, разказва, че новият AI-модел е успял да реши отделни математически задачи, които имат само един верен отговор.
Математическите умения на алгоритъма все още са на нивото на материала, преподаван в основното училище. Самият факт, че се справя с подобни задачи обаче, кара разработчиците да са много оптимистични за бъдещия успех на Q*.
Агенция „Ройтерс“ отбелязва, че екипът не е имал възможност независимо да провери възможностите на проекта.
С възможности на нивото на човешкия интелект
OpenAI вече направи революция в масовата употреба на ChatGPT – езиков модел, базиран на изкуствен интелект, който убедително възпроизвежда човешко слово и може да води диалог.
Изследователите обаче смятат, че математиката е лимитът на развитието на генеративния изкуствен интелект, върху който е базиран ChatGPT.
Моделът е добър в писането и превода на езици. Той прогнозира следващата дума на база на статистическите данни, но отговорите на един и същ въпрос могат да варират в широки граници и да дадат грешни отклонения - т.нар. "халюцинации".
Овладяването на математиката, където верният отговор е само един, предполага, че изкуственият интелект ще има по-големи способности за разсъждение, наподобяващи човешкия интелект.
За разлика от калкулатора, който може да решава ограничен брой операции, общият изкуствен интелект може да обобщава, да учи и да разбира.
Q* изглежда като комбинация между два термина в компютърните науки:
- А* (a star) е алгоритъм за търсене на най-оптималния път между начална и крайна точка в една структура от данни(например, избира отговора, намирайки най-късото разстояние, най-бързото време, и др.).
- Q-learning е друг термин, който обозначава модел на самообучение чрез проба-грешка. Моделът се тренира да имитира начина, по който децата се научават на нови умения. Добрите действия се награждават и подкрепят, а лошите действия се наказват.
- "Q" обозначава "качеството" на взетото решение.
- * обозначава "оптимален избор".
Ако наистина има пробив в смесването между двата модела, теоретично той би могъл да се използва за създаване на изкуствен интелект, който се самопоправя и да се учи сам, използвайки системи, базирани на ясни правила - математика или логика.
Възможно е новият модел да може сам да оценява колко близко е до правилния отговор и да използва тази информация, за да стига до верния резултат по-бързо и с по-малко стъпки.
Именно за мощта и потенциалната опасност на изкуствения интелект предупреждават част от екипа на OpenAI в писмо до борда на директорите непосредствено преди Сам Алтман да бъде освободен.
Източниците на „Ройтерс“ така и не посочват конкретните рискове, но темата отдавна се коментира сред учените.
Едно от опасенията е какво ще се случи, ако технологията "поумнее" до такава степен, че прецени, че унищожаването на човечеството е в неин интерес.
В писмото се съобщава още, че е сформиран екип от учени от различни звена, който трябва да проучи оптимизирането на моделите, базирани на изкуствен интелект, така че в даден момент те да могат да разсъждават и потенциално да вършат научна дейност.
Преди седмица, на среща на върха на Азиатско-тихоокеанското икономическо сътрудничество в Сан Франциско, Алтман обяви, че се очертава голям напредък в областта на изкуствения интелект.
Ден по-късно бордът на директорите уволни Сам Алтман, отбелязва „Ройтерс“ в заключение.
Изненадващото отстраняване на Алтман на 17 ноември хвърли OpenAI в хаос.
Решението на борда беше взето с подкрепата на един основните двигатели зад ChatGPT Иля Сутскевер. Впоследствие той се извини за решението и се включи в писмото на служителите с призив за връщане на Алтман начело на компанията.
Близо 700 души от OpenAI заявиха във въпросното писмо, че са готови да напуснат, ако бордът на директорите не върне Алтман.
Така Алтман се завърна начело на ОpenAI само пет дни по-късно и обяви, че ще засили партньорството с Microsoft в областта на изкуствения интелект.
Сам Алтман - човекът, който предизвика революция в AI и беше уволнен от собствената си компания
