OpenAI співпрацює з Anthropic та Google для підвищення безпеки ШІ

OpenAI співпрацює з конкурентами у сфері безпеки штучного інтелекту

Компанія OpenAI розпочала співпрацю з Anthropic PBC та Google DeepMind для вирішення питань безпеки штучного інтелекту. Це стало відповіддю на зростаюче занепокоєння щодо потенційних загроз, які новітні технології можуть спричинити економіці та безпеці.

Крис Лехейн, що є керівником відділу глобальної політики OpenAI, повідомив, що ця співпраця триває вже кілька тижнів. Він підкреслив, що компанія не вважає за потрібне отримувати антимонопольні винятки для координації дій з іншими учасниками ринку.

На брифінгу у Вашингтоні Лехейн висловив думку, що важливо працювати разом над питаннями безпеки, зазначивши: “Краще спробувати працювати разом, щоб приділити пріоритетну увагу безпеці”.

Занепокоєння щодо екзистенційних ризиків, пов’язаних зі штучним інтелектом, зросло після публікації есе на 3 800 слів генерального директора Anthropic Дарио Амодея. Він закликав до обмеження розробки найсучасніших систем, щоб дослідники могли краще зрозуміти потенційні загрози. Цей заклик отримав підтримку від Сема Альтмана, генерального директора OpenAI, та Ілона Маска, керівника SpaceXAI. Anthropic нещодавно відкрила біолабораторію в районі затоки Сан-Франциско для проведення фізичних біологічних експериментів.

Антимонопольні регулятори США висловили скептицизм щодо можливості надання компаніям у сфері штучного інтелекту винятків для координації дій. Голова Федеральної торгової комісії Ендрю Фергюсон зауважив, що такі запити можуть бути сприйняті з “глибоким підозрінням”. Він підкреслив, що компанії, які займаються штучним інтелектом, можуть намагатися створити бар’єри для входу на ринок, що захищають їхній бізнес від конкуренції.

Лехейн вказав на те, що в історії авіаційної галузі є багато випадків, коли компанії співпрацювали в питаннях безпеки. Він також зазначив, що перебуває у Вашингтоні для зустрічі з американськими законодавцями та що OpenAI підтримує двопартійні пропозиції, направлені на усунення потенційних катастрофічних ризиків, пов’язаних із технологією штучного інтелекту.

Серед ініціатив, які підтримує OpenAI, є концепція федерального регулювання штучного інтелекту, запропонована республіканцем Джеєм Обернолтом та демократкою Лорі Трахан. Компанія також підтримує пропозицію Сенату, що розробляється під керівництвом лідера більшості Джона Тюна, республіканця Теда Круза та демократки Емі Клобучар, що має на меті усунути катастрофічні ризики.

Варто зазначити, що компанія Anthropic змогла запобігти використанню своїх моделей Claude для проведення кібершпигунства проти України, яке, за припущеннями, пов’язане з Росією. Водночас провідний науковий співробітник OpenAI попередив, що швидкий розвиток штучного інтелекту ускладнює його розуміння та контроль, висловивши надію на те, що лабораторії, що займаються ІІ, добровільно сповільнять темпи розвитку з міркувань безпеки.