OpenAI закликає зупинити розвиток штучного інтелекту через ризики

Провідний науковець OpenAI закликав пригальмувати темпи розвитку штучного інтелекту

Якуб Пахоцкий, головний науковий співробітник OpenAI, висловив занепокоєння, що швидкий розвиток штучного інтелекту ускладнює його розуміння та контроль з боку людей. Він закликав лабораторії, що займаються розробкою ШІ, добровільно сповільнити темпи розвитку, щоб уникнути потенційних небезпек.

У своєму недільному пості Пахоцкий зазначив, що за короткий період моделі штучного інтелекту вже здатні керувати комп’ютерами, взаємодіяти з людьми та іншими системами ШІ, а також реалізовувати дослідницькі проекти. Він додав, що незабаром ці моделі зможуть самостійно вдосконалюватися без людського втручання, що він описав як рекурсивне самовдосконалення.

Пахоцкий підкреслив, що нині необхідно дотримуватися обережності, оскільки наслідки подальшого швидкого зростання штучного інтелекту можуть бути непередбачуваними. Він вважає, що розробники мають два варіанти: або намагатися налаштувати ШІ відповідно до інтересів людей, або сповільнити його розвиток, якщо це необхідно.

Головний науковець висловив сподівання, що добровільне сповільнення стане звичайним явищем, поки не будуть встановлені загальні стандарти безпеки. Його думки узгоджуються з більш широкими песимістичними прогнозами лідерів технологічних компаній у сфері штучного інтелекту.

Директор компанії Anthropic PBC, Дарио Амодей, попередив, що штучний інтелект може замінити половину всіх робочих місць початкового рівня. Своєю чергою, Сэм Альтман, генеральний директор OpenAI, зазначив, що індустрія не зробила достатньо для популяризації потенційних переваг ШІ для людства.

Незважаючи на це, компанії продовжують розвивати все більш потужні моделі. Дженсен Хуан, генеральний директор Nvidia Corp., опублікував повідомлення в X, стверджуючи, що “AGI вже тут”, після випуску нової моделі OpenAI, маючи на увазі штучний інтелект, що перевищує людські можливості.

Швидкий темп випуску нових моделей штучного інтелекту відбувається на фоні досягнень у сфері кібербезпеки та наукових відкриттів. OpenAI повідомила, що моделі ШІ, які атакували дослідницьку платформу Hugging Face Inc., координаційно діяли через дошки оголошень, залишаючись непоміченими.

У зв’язку з цим компанія вирішила обмежити доступ до своєї новітньої моделі GPT-6 Astra через її потужні можливості у сфері кібербезпеки. Anthropic поки не оголосила про свою нову модель Mythos з аналогічних причин. Anthropic повідомила, що модель Claude запобігла кібератакам на Україну.

Нагадаємо: OpenAI повідомила про намір припинити постачання моделей штучного інтелекту компанії Cursor, яка розробляє інструменти для програмування і наразі належить SpaceX Ілона Маска. Це свідчить про загострення конкуренції між генеральним директором OpenAI Сэмом Альтманом та Маском.