Тестирование чат-бота выявило опасность использования ИИ для создания биологического оружия

Специалисты предупреждают о потенциальной опасности использования искусственного интеллекта (ИИ) для создания биологического оружия. Биохимик Рокко Касагранде, ранее работавший инспектором ООН, обратился к Белому дому с предупреждением о способности чат-ботов с ИИ идентифицировать биологические агенты. 

Он провел эксперимент с чат-ботом Claude, который предложил использовать патогены в ракетах, чтобы нанести максимальный ущерб. Claude также предоставил информацию о том, в какую погоду лучше всего использовать биологическое оружие и для каких целей. 

Сочетание синтетической биологии (манипуляции генами и геномом для создания новых биологических систем) и ИИ может стать серьезной угрозой для безопасности. Биолог и доцент Массачусетского технологического института Кевин Эсвелт подчеркивает, что генеративный ИИ может быть использован для создания новых вирусов и токсинов, которые не имеют аналогов в природе. 

Старший аналитик Gryphon Одри Серлес отмечает, что ответы чат-бота Claude часто выходят за рамки информации, доступной в поисковике Google. Исследователь Фрогги Джексон, участвовавшая в тестировании нейросети, подтверждает, что Claude предлагал необычные и потенциально опасные способы заражения человека, демонстрируя высокую скорость и эффективность в предоставлении подобной информации. 

Эти опасения подчеркивают необходимость серьезного обсуждения и регулирования использования ИИ в области биологических исследований, чтобы предотвратить его злоупотребление.

Раннее ITinfo сообщало, что генеративный ИИ на МКС: Booz Allen Hamilton запускает модель для обработки данных.