TIME: Как спасти «некоммерческую» душу ИИ

Об этом рассказал бывший сотрудник OpenAI.

OpenAI, основанная как некоммерческая организация в 2015 году, задумывалась как альтернатива ради всеобщего блага, а не ради прибыли. Однако с ростом затрат на разработку ИИ в 2019 году компания создала коммерческое подразделение, обязав его юридически следовать благотворительной миссии, пишет журнал TIME (перевод — сайт Charter97.org).

Бывший сотрудник OpenAI Джекоб Хилтон, обучавший ИИ, утверждает, что сегодня эти обязательства под угрозой. Компания планирует реструктуризацию, которая может снять ограничения на прибыль инвесторов и ослабить приверженность изначальной миссии.

Он предупреждает, что на фоне миллиардных доходов и ускоренного графика релизов снижается качество внутреннего тестирования безопасности. Решения теперь принимаются в условиях конфликта интересов, а независимый контроль фактически отсутствует.

Выход, по его мнению, — усилить роль некоммерческого совета директоров. Для этого необходимо назначить независимого CEO и создать команду, свободную от финансового влияния. Такая структура могла бы:

– оценивать руководство по степени соответствия миссии,

– проверять безопасность новых моделей,

– публиковать отчёты и вести связь с общественностью,

– управлять прозрачностью и этикой лоббистской деятельности,

– использовать долю прибыли на гранты в сфере безопасного ИИ.

На фоне отсутствия регулирования ИИ на федеральном уровне OpenAI может стать примером для всей индустрии. Но сохранить свою «некоммерческую душу» она сможет только при активной позиции общества — её главного бенефициара.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу charter97@gmail.com