Сотрудники ведущих компаний в сфере ИИ увольняются из-за страха перед последствиями своей работы

Как сообщает Financial Times, стремительное развитие искусственного интеллекта и опасения относительно его деструктивных последствий вызвали волну выгорания и психологического истощения среди сотрудников ведущих ИИ-компаний и Британского института безопасности ИИ (AISI). Не соглашаясь с тем, что вопросы безопасности отходят на второй план, часть ученых массово увольняется.

За последние два года более десятка ведущих исследователей покинули OpenAI, Anthropic и Google DeepMind. Несколько специалистов AISI также ушли с должностей из-за стресса и сейчас проходят психологическую реабилитацию. Среди главных причин они называют жесткие сроки тестирования новых моделей, слишком быстрые темпы внедрения технологий и непредсказуемый рост их возможностей.

По словам специалистов по кибербезопасности и биохимии, наибольшее беспокойство вызывает способность последних ИИ-моделей находить скрытые уязвимости в коде и генерировать неизвестные природе вирусы. Кроме того, исследователей пугает потенциальное использование искусственного интеллекта в военной сфере. Учёные убеждены, что гонка за коммерческим успехом несовместима с обеспечением надлежащего уровня безопасности.

Своё увольнение публично подтвердили несколько известных специалистов:

• Джейкоб Коксон (бывший сотрудник OpenAI и Anthropic) заявил, что компании «играют» с будущим человечества.
  
• Мринанк Шарма из Anthropic покинул отрасль, чтобы заняться поэзией и переосмыслить свою деятельность.
• Хиеу Фам (бывший сотрудник OpenAI и xAI) вернулся во Вьетнам из-за сильного выгорания во время разработки «сверхразумных сущностей».