Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Мокси Марлинспайк е псевдоним на Матю Розенфелд - криптограф и изследовател в областта на киберсигурността. Със създаването на Signal, безплатно приложение за съобщения, което прави разговорите недостъпни за трети страни, той промени представите за лична комуникация в дигиталната епоха. Днес Марлинспайк се опитва да направи същото и с начина, по който работят AI чатботовете.
Най-новият му проект се нарича Confer. Това е AI асистент, изграден като софтуер с отворен код - тоест всеки може да види и провери как е създадена системата и по какви правила работи. Прозрачността обаче се отнася до самия софтуер, а не до съдържанието на разговорите.
Комуникацията между потребителите, както и отговорите на AI системата, се криптират така, че да останат напълно недостъпни отвън. Това важи не само хакери и трети страни, но и самите администратори на сървърите. Съдържанието се съхранява в защитена форма и може да бъде прочетено единствено от участниците в разговора.
Подобно на Signal, Confer е проектиран така, че да бъде максимално опростен за използване. Signal беше първият инструмент за лична комуникация, предназначен за масова употреба, който направи защитените разговори лесни и достъпни. Преди това решения като PGP, технология за криптиране на електронна поща, или други методи за защита на съобщенията изискваха сложни настройки и често водеха до грешки.
Signal промени този подход. Потребителите вече не трябваше да се занимават с технически детайли. Приложението е създадено така, че дори операторите на услугата да нямат достъп до съдържанието на съобщенията или възможност да ги свържат с реалната самоличност на потребителите.
Всички големи платформи са задължени да предоставят потребителски данни на държавните власти или на частни страни по съдебни дела, когато бъде представена валидна съдебна заповед. Дори когато потребителите се откажат от дългосрочно съхранение на данните си, страни по дело могат да принудят платформата да ги запази. Това стана ясно през май миналата година, когато съд разпореди на OpenAI да съхранява всички записи на разговори в ChatGPT - включително изтрити чатове и чувствително съдържание, генерирано чрез бизнес API услугите на компанията.
Главният изпълнителен директор на OpenAI Сам Алтман коментира, че подобни съдебни решения означават, че дори разговори, в които потребители споделят лични и психологически проблеми с AI системата, може да не останат поверителни.
Експертът по защита на личните данни Ем, която умишлено не използва фамилията си публично, определя AI асистентите като „върховния враг“ на поверителността. Според нея причината е в самия начин, по който тези системи работят - те разчитат на събирането и комбинирането на огромно количество информация от различни източници, включително от хората, които ги използват.
Според Мокси Марлинспайк липсата на реален контрол от страна на потребителите е особено тревожна, като се има предвид как хората разговарят с AI системите. Тези разговори често се възприемат като лични и поверителни. Потребителите споделят мисли, страхове, грешки, служебни въпроси и най-интимните си преживявания, сякаш разговарят с доверен човек или водят личен дневник.
В отговор на тези проблеми Марлинспайк разработва Confer, който в момента е в тестова фаза. Подобно на Signal, който защитава съобщенията така, че те да са достъпни единствено за участниците в разговора, Confer защитава въпросите на потребителите, отговорите на AI системата и цялото съдържание, което се обменя между тях. Както и при Signal, няма начин отделни потребители да бъдат свързани с реалната им самоличност чрез имейл адрес, IP адрес или други идентифициращи данни.
„Характерът на взаимодействието е фундаментално различен, защото става дума за личен разговор“, казва Марлинспайк пред Ars Technica. „Беше изключително интересно и окуражаващо да чуя историите на хора, които са използвали Confer и са имали разговори, променили начина им на мислене. Отчасти това е така, защото те не са се чувствали свободни да споделят подобна информация в разговори с платформи като ChatGPT, или са имали идеи и данни, които не са смятали за безопасно да използват там, но са могли да го направят в Confer.“
Един от основните механизми за защита в Confer са т.нар. passkey ключове - модерен начин за вход, при който достъпът до профила остава изцяло на устройството на потребителя. Това означава, че системата може да потвърди самоличността му, без чувствителната информация да се изпраща или съхранява на сървърите.
Passkey ключовете позволяват вход чрез пръстов отпечатък, лицево разпознаване или ПИН код, като тези данни не напускат устройството. Благодарение на това разговорите в Confer могат да се съхраняват и синхронизират между различни устройства, без да стават достъпни за трети страни.
Кодът, който прави това възможно, е публичен.
Зад технологията на Confer стои интерфейс, който изглежда изненадващо прост. С няколко действия потребителят влиза в профила си и получава достъп до предишните си разговори, включително и на други свои устройства. По този начин платформата позволява разговорите да се синхронизират, без това да засяга личното пространство. Системата е създадена така, че защитата да се обновява редовно, което означава, че дори при проблем в даден момент, предишни и бъдещи разговори остават защитени.
Освен това Confer използва допълнителен защитен механизъм на сървърите си. Той гарантира, че информацията се обработва в строго защитена среда, до която нямат достъп дори администраторите на системата. Платформата предоставя и технически доказателства, че на сървърите ѝ работи единствено софтуерът, който е публично обявен, без скрити допълнения или намеси.
Друга публично достъпна AI система с фокус върху поверителността е Lumo - услуга на европейската компания Proton. Lumo използва същата технология за защита, която стои зад останалите услуги на Proton, като имейла, облачното пространство и календара. Макар вътрешно да е по-сложна от Confer, за потребителя разликата почти не се усеща.
След вход в профила всички разговори и свързаните с тях данни са достъпни единствено за самия потребител. Proton дава избор - разговорите могат да се съхраняват за синхронизация между устройства или да бъдат изтривани веднага след края им.
Трети AI проект, който залага на поверителността, е Venice. При него всички данни се пазят локално, директно на устройството на потребителя, без да се съхраняват на външни сървъри.
Повечето големи AI платформи предлагат възможност разговорите да не се използват за обучение или маркетинг. На практика обаче тези обещания често имат изключения - част от съдържанието може да бъде преглеждано от хора или използвано за вътрешни цели, дори когато потребителят е избрал данните му да не се съхраняват.
