Глава OpenAI назвал потерю контроля над ИИ и концентрацию власти главными рисками

Глава OpenAI Сэм Альтман назвал два сценария, при которых развитие искусственного интеллекта может привести к катастрофическим последствиям: потерю контроля над будущим в пользу ИИ и чрезмерную концентрацию власти у одного человека, компании или страны. Об этом сообщает BeInCrypto со ссылкой на публикации Альтмана в социальной сети X.

Первый риск связан с ситуацией, в которой решения о будущем фактически перейдут к машинам. Альтман считает такой исход неприемлемым и указывает, что системы ИИ должны оставаться инструментом, служащим людям. По его мнению, для этого развитие мер безопасности должно опережать рост возможностей моделей.

Второй сценарий, описанный руководителем OpenAI, предполагает использование чрезвычайно мощного ИИ одним человеком или организацией для навязывания собственного мировоззрения остальным. Альтман связывает предотвращение обеих угроз с поиском баланса между сохранением контроля над технологиями и недопущением чрезмерного сосредоточения влияния.

Как OpenAI описывает изменения в безопасности

По данным BeInCrypto, Альтман выступил за федеральные единообразные требования к безопасности передовых моделей в США. Он также указал на необходимость общих правил управления рисками и участия независимых аудиторов. При этом, согласно его позиции, компаниям не следует ждать принятия законов или специальных антимонопольных условий, чтобы начать такую работу.

Альтман отметил, что прежние отраслевые нормы в основном касались развертывания уже готовых моделей, тогда как теперь больше внимания требуется уделять их разработке и оценке. В OpenAI, по его словам, перед отдельными запусками обучения с подкреплением заранее подготавливают обоснования безопасности. Речь идет о запусках, которые должны существенно расширить возможности моделей.

Руководитель OpenAI также призвал отрасль вырабатывать общие стандарты мониторинга и противодействия рассогласованию моделей. Он пояснил, что замедление темпа не означает остановку прогресса: развитие может оставаться быстрым, но идти медленнее потенциально возможного из-за затрат на обоснования безопасности и мониторинг. Государственное участие, как передает BeInCrypto, Альтман прежде всего связывает с международной координацией, одновременно указывая на необходимость самостоятельных действий компаний.