Anthropic предложила передать 5% акций общественному фонду

Anthropic предложила направить 5% собственных акций в новый Public Benefit Fund. Как сообщил Decrypt, реализация инициативы зависит от одобрения акционеров. Компания также заявила, что с учетом обязательств сооснователей и программы для сотрудников около 20% ее акций может быть направлено на общественные цели.

По данным Decrypt, фонд планируется оформить как полностью принадлежащую Anthropic LLC структуру, а не как некоммерческую организацию. Anthropic заявила, что такой формат позволит выбирать между разными способами поддержки, включая крупные пожертвования традиционным некоммерческим организациям и прямые выплаты отдельным группам получателей.

Anthropic сообщила о выделении $200 млн на исследования в этой области. Компания заявила, что сооснователи намерены пожертвовать 80% принадлежащих им долей, а сотрудники смогут участвовать в соответствующей программе. Anthropic также планирует раскрыть структуру управления фондом и пороговые значения для оценки его активов в ближайшие месяцы.

Decrypt сообщил, что фонд не сможет использовать акции для лоббистской деятельности или политических пожертвований. В публикации также отмечается, что правление фонда сможет добавлять 2% акций при каждом росте стоимости компании на 50% относительно базового уровня, который пока не раскрыт.

После объявления Anthropic Илон Маск написал в X, что в следующем году передаст по одной акции SpaceX каждому ребенку в США. По данным Decrypt, Маск назвал это первой из серии подобных инициатив. Речь идет о заявленном намерении, а не о завершенной передаче акций.

Decrypt также сообщил о представленном Anthropic законодателям проекте правил для систем искусственного интеллекта. Согласно описанию в публикации, документ предусматривает возможность блокировать выпуск модели, если она создает предсказуемый и непосредственный риск гибели или тяжелых травм более чем для 50 человек либо ущерба свыше $1 млрд. Среди названных сценариев — биологическое оружие, выход ИИ из-под контроля человека и кибератаки.

Предложенный механизм, как его описывает Anthropic, должен включать участие Министерства торговли США и решение федерального суда. Для новых моделей также предусматривались публикация рамок безопасности и отчетов о прозрачности. Компания связывает проект с собственной Advanced AI Framework, которую продвигает среди законодателей.