Google выпускает новые «открытые» модели ИИ с акцентом на безопасность

Они являются дополнениями к семейству генеративных моделей Gemma 2 от Google, которые дебютировали еще в мае. Новые модели, Gemma 2 2B, ShieldGemma и Gemma Scope, разработаны для других применений и случаев использования, но имеют общую безопасность.

Gemma 2 2B — это легкая модель для создания анализа текста, которая может работать на разнообразном оборудовании, включая ноутбуки и периферийные устройства. Он лицензирован для некоторых исследовательских и коммерческих приложений и может быть загружен из таких источников, как библиотека моделей Vertex AI Google, платформа науки о данных Kaggle и набор инструментов Google AI Studio.

Что касается ShieldGemma, то это набор «классификаторов безопасности», которые пытаются выявить токсичность, например вражду, преследование и откровенный контент сексуального характера. Построенный на основе Gemma 2, ShieldGemma можно использовать для фильтрации подсказок к генеративной модели, а также содержимому, которое создает модель.

Выпуск новых моделей Gemma 2 состоялся вскоре после того, как Министерство торговли США приняло открытые модели ИИ в предварительном отчете. Открытые модели расширяют доступность генеративного искусственного интеллекта для небольших компаний, исследователей, некоммерческих организаций и индивидуальных разработчиков, говорится в отчете, а также подчеркивается необходимость мониторинга таких моделей на предмет потенциальных рисков.

Источник: TechCrunch