Anthropic запускает агента ИИ Claude, работающего в Chrome

Anthropic объявила о запуске исследовательской предварительной версии браузерного агента с искусственным интеллектом, работающего на основе моделей Claude AI. Агент Claude for Chrome будет доступен для группы из 1000 подписчиков тарифного плана Anthropic Max, стоимость которого составляет от 100 до 200 долларов в месяц. Компания также открывает список ожидания для других заинтересованных пользователей.

Добавив расширение в Chrome, выбранные пользователи теперь могут общаться с Claude в боковом окне, которое сохраняет контекст всего, что происходит в их браузере. Пользователи также могут предоставить агенту Claude разрешение выполнять действия в их браузере и выполнять некоторые задачи от их имени.

Браузер быстро становится следующим полем битвы для лабораторий искусственного интеллекта, которые стремятся использовать интеграцию браузеров для обеспечения более бесперебойной связи между системами искусственного интеллекта и их пользователями. Perplexity недавно запустила собственный браузер Comet, который имеет агента искусственного интеллекта, который может разгружать пользователей. OpenAI, как сообщается, близка к запуску собственного браузера на базе искусственного интеллекта, который, по слухам, будет иметь схожие функции с Comet. Между тем Google за последние месяцы запустила интеграцию Gemini с Chrome.

В посте в блоге Anthropic предупредил, что рост количества агентов искусственного интеллекта с доступом к браузеру создает новые риски для безопасности. На прошлой неделе команда безопасности Brave заявила, что обнаружила, что агент браузера Comet может быть уязвим к атакам косвенного внедрения запросов, когда скрытый код на веб-сайте может обманом заставить агента выполнить вредоносные инструкции при обработке страницы.

Anthropic заявляет, что надеется использовать этот предварительный обзор исследования как шанс выявить и устранить новые риски безопасности; однако компания уже внедрила несколько защитных мер против атак с применением быстрого внедрения вируса. Компания утверждает, что ее вмешательства снизили уровень успешности атак вируса с 23,6% до 11,2%.

Например, Anthropic утверждает, что пользователи могут ограничить доступ браузерного агента Claude к определенным сайтам в настройках программы, и компания по умолчанию заблокировала Claude доступ к веб-сайтам, которые предлагают финансовые услуги, контент для взрослых и пиратский контент. Компания также утверждает, что браузерный агент Claude будет запрашивать разрешение пользователя, прежде чем «осуществлять действия с высоким уровнем риска, такие как публикация, покупка или обмен личными данными».