The Verge: OpenAI cоздала независимый комитет для запрета выпуска опасного ИИ

OpenAI учредила независимый комитет для предотвращения выпуска опасных искусственных интеллектов. Компания объявила о создании наблюдательного органа, входящего в совет директоров, который будет заниматься вопросами безопасности и этики в области искусственного интеллекта. Об этом сообщает The Verge.

Наделив новый комитет необычайными полномочиями, включая возможность приостановки выпуска моделей искусственного интеллекта из соображений безопасности. В его состав вошли ключевые менеджеры OpenAI: Зико Колтер, Адам Д’Анджело, Пол Накасоне и Николь Селигман. Генеральный директор компании Сэм Альтман не стал членом данного комитета.

Новое управление будет получать информацию от руководства оценочной безопасности основных моделей искусственного интеллекта и контролировать их выпуск совместно с полным советом директоров. Также полный совет директоров OpenAI будет регулярно информировать о вопросах безопасности и защиты.

The Verge отмечает, что степень независимости нового комитета вызывает сомнения, поскольку все его члены являются частями совета директоров OpenAI. В пример более успешной концепции независимости журналисты приводят наблюдательный совет Meta (признанный экстремистским и запрещенным в России), члены которого абсолютно независимы от совета директоров IT-гиганта.

Ранее ITinfo сообщало, что киберпреступники взламывают Windows через CAPTCHA.