Anthropic запускає агента ШІ Claude, який працює в Chrome

Anthropic оголосила про запуску дослідницької попередньої версії браузерного агента зі штучним інтелектом, що працює на основі моделей Claude AI. Агент Claude for Chrome буде доступний для групи з 1000 передплатників тарифного плану Anthropic Max, вартість якого становить від 100 до 200 доларів на місяць. Компанія також відкриває список очікування для інших зацікавлених користувачів.

Додавши розширення до Chrome, вибрані користувачі тепер можуть спілкуватися з Claude у боковому вікні, яке зберігає контекст усього, що відбувається в їхньому браузері. Користувачі також можуть надати агенту Claude дозвіл виконувати дії в їхньому браузері та виконувати деякі завдання від їхнього імені.

Браузер швидко стає наступним полем битви для лабораторій штучного інтелекту, які прагнуть використовувати інтеграцію браузерів для забезпечення більш безперебійного зв'язку між системами штучного інтелекту та їхніми користувачами. Perplexity нещодавно запустила власний браузер Comet, який має агента штучного інтелекту, що може розвантажувати користувачів. OpenAI, як повідомляється, близька до запуску власного браузера на базі штучного інтелекту, який, за чутками, матиме схожі функції з Comet. Тим часом Google за останні місяці запустила інтеграцію Gemini з Chrome.

У дописі в блозі Anthropic попередив, що зростання кількості агентів штучного інтелекту з доступом до браузера створює нові ризики для безпеки. Минулого тижня команда безпеки Brave заявила, що виявила, що агент браузера Comet може бути вразливим до атак непрямого впровадження запитів, коли прихований код на веб-сайті може обманом змусити агента виконати шкідливі інструкції під час обробки сторінки.

Anthropic заявляє, що сподівається використати цей попередній огляд дослідження як шанс виявити та усунути нові ризики безпеки; проте компанія вже запровадила кілька захисних заходів проти атак із застосуванням швидкого введення вірусу. Компанія стверджує, що її втручання знизили рівень успішності атак вірусу з 23,6% до 11,2%.

Наприклад, Anthropic стверджує, що користувачі можуть обмежити доступ браузерного агента Claude до певних сайтів у налаштуваннях програми, і компанія за замовчуванням заблокувала Claude доступ до веб-сайтів, які пропонують фінансові послуги, контент для дорослих та піратський контент. Компанія також стверджує, що браузерний агент Claude запитуватиме дозволу користувача, перш ніж «здійснювати дії з високим рівнем ризику, такі як публікація, купівля або обмін особистими даними».