Ілля Суцкевер, колишній розробник ChatGPT в OpenAI, запускає новий стартап Safe Superintelligence (SSI), який займатиметься розробкою безпечного суперінтелекту. Про це він повідомив на своїй сторінці у популярній соцмережі. Разом з ним працюватимуть над альтернативою нинішнім штучним розумам будуть Деніел Леві з OpenAI і Деніел Гросс з Apple.

Супер-ІІ захистить від ІІ

У короткому комюніке, розміщеному на сторінці ssi.inc 19 червня, Суцкевер із колегами зазначають, що побудова безпечного надінтелекту (SSI) — «найважливіша технічна проблема нашого часу».

«Особливість цієї компанії в тому, що її першим продуктом буде безпечний надінтелект, і вона не займатиметься нічим іншим до цього моменту, — наголосив Суцкевер в інтерв'ю Bloomberg. — Вона буде повністю ізольована від зовнішнього тиску, пов'язаного із необхідністю створення великого та складного продукту, а також участі у конкурентній боротьбі».

Алло, ми шукаємо таланти

Вирішувати технічні проблеми безпечного штучного інтелекту передбачається за допомогою «революційної інженерії та наукових відкриттів». SSI заявляє, що розвиватиметься так швидко, як це можливо, але на першому місці вона завжди матиме безпеку.

Наразі Суцкевер та його партнери збирають команду однодумців та закликають усіх, хто поділяє заявлені цілі компанії, приєднуватися до неї. Суцкевер повідомив, що у SSI будуть офіси в Пало-Альто (Каліфорнія) та Тель-Авіві.

Хто вклався у новий проект Суцкевера, наразі невідомо — сам підприємець у розмові з Bloomberg відмовився назвати імена інвесторів чи суму вкладень. Деніел Гросс зазначив, що залучення капіталу не стало проблемою.

Ядерна безпека

Під безпекою суперінтелекту Суцкевер, за його власними словами, має на увазі щось подібне до ядерної безпеки. Він каже, що великі мовні моделі, що домінують в ІІ зараз, відіграватимуть важливу роль і в безпечному суперінтелекті майбутнього, але закликає прагнути чогось набагато потужнішого.

"У нинішніх системах ви розмовляєте з ІІ, розмовляєте, і все", - говорить Суцкевер. — але йдеться про гігантський суперцентр обробки даних, який самостійно розробляє технології, і «ми хочемо зробити свій внесок у безпеку всього цього», сказав він.



«На самому базовому рівні безпечний суперінтелект повинен мати властивість, яка не дозволяє завдати масштабної шкоди людству», — наголошує Суцкевер.

Хто такий Ілля Суцкевер

У Суцкевера у промисловості штучного інтелекту майже легендарний статус. Він відіграв ключову роль у розробці ряду важливих досягнень в області ІІ, працюючи як дослідник в університеті, і як співробітник Google. Його участь на зорі OpenAI допомогла залучити в компанію талановитих фахівців, які зіграли ключову роль у її успіху. Суцкевер відомий як головний прихильник створення все більших моделей - стратегії, яка допомогла стартапу випередити Google і відіграла вирішальну роль у розвитку ChatGPT.

Ілля Суцкевер – уродженець Нижнього Новгорода. У 1991 році він разом із сім'єю емігрував до Ізраїлю, а потім до Канади. 2015 року Суцкевер став головним науковим співробітником OpenAI. У процесі цієї роботи він дійшов висновку, що ІІ може перевершити людські можливості та стати небезпечним. Наприкінці 2022 року вчений висловив стурбованість тим, що AGI (artificial general intelligence) ставитиметься до людей так само, як люди в даний час ставляться до тварин. За повідомленням WSJ, через це Суцкевер нібито посварився із главою OpenAI Семом Альтманом і навіть ініціював звільнення останнього у листопаді 2023 року. Альтман перейшов до Microsoft. У відповідь на це більшість співробітників OpenAI пригрозили звільнитися за Альтманом і під тиском інвесторів Альтман був відновлений на посаді. У травні 2024 року Суцкевер залишив компанію.

А може, не все так погано?

Не всі візіонери цифрової індустрії поділяють занепокоєння Суцкевера щодо майбутнього ІІ. На думку Ілона Маска, ймовірність глобальної катастрофи через розвиток штучного інтелекту становить трохи більше 20%. Слова американського мільярдера наводить портал Deadline.

«Потрібно дивитися на світлу сторону. Я думаю, що найімовірнішим результатом [розвитку ІІ] буде достаток, коли товари та послуги будуть доступні кожному, а робота буде необов'язковою», - зазначив Маск.