Anthropic закликає до створення механізмів контролю за розвитком штучного інтелекту

Потенційні ризики розвитку ШІ

Компанія Anthropic вважає, що для розробників штучного інтелекту критично важливо заздалегідь узгодити механізм уповільнення або тимчасової зупинки розвитку ШІ-систем. Це стане необхідним у випадку, якщо технології почнуть вдосконалюватися швидше, ніж суспільство зможе їх контролювати.

“Поява систем, які здатні самостійно створювати вдосконалені версії, може стати одним із найзначніших технологічних проривів в історії”, – зазначають у компанії.

Необхідність координації

Anthropic підкреслює, що будь-яка пауза у розвитку ШІ-моделей має бути скоординованою між кількома провідними лабораторіями. Компанія пропонує визначити:

• умови, за яких може бути запроваджене уповільнення або тимчасова зупинка;
• критерії для відновлення розробки;
• механізми контролю та нагляду за виконанням таких домовленостей.

Односторонні дії окремих розробників, на їхню думку, не матимуть суттєвого ефекту на загальний рівень безпеки.

Власний досвід і майбутні консультації

Anthropic наводить власний досвід як приклад швидкого розвитку ШІ-систем. На травень понад 80% коду, що додавався до кодової бази компанії, було створено її моделлю Claude. У зв’язку з цим, компанія наголошує на важливості механізмів моніторингу та контролю за поведінкою моделей.

У найближчі місяці Anthropic планує провести консультації з політиками, науковцями, громадськими організаціями та іншими розробниками ШІ. Теми для обговорення включатимуть ризики самовдосконалення штучного інтелекту та створення міжнародних механізмів координації у сфері безпеки ШІ.

Про компанію Anthropic

Anthropic — американська компанія у сфері штучного інтелекту, заснована у 2021 році колишніми дослідниками. Основним продуктом компанії є чатбот Claude, доступний на декількох великих хмарних платформах. У травні 2026 року компанія планує відкрити публічний доступ до моделей класу Mythos, які використовуються для виявлення вразливостей у програмному коді.

Останні новини свідчать про те, що Anthropic подала заяву до Комісії з цінних паперів і бірж США для проведення первинного публічного розміщення акцій. Також у червні компанія оголосила про створення підрозділу AI & Rule of Law, який досліджуватиме вплив штучного інтелекту на демократичні інститути та верховенство права.