Google випускає нові «відкриті» моделі ШІ з акцентом на безпеку

Вони є доповненнями до сімейства генеративних моделей Gemma 2 від Google , які дебютували ще в травні. Нові моделі, Gemma 2 2B, ShieldGemma і Gemma Scope, розроблені для дещо інших застосувань і випадків використання, але мають спільну безпеку.

Gemma 2 2B — це легка модель для генерації аналізу тексту, яка може працювати на різноманітному обладнанні, включаючи ноутбуки та периферійні пристрої. Він ліцензований для певних дослідницьких і комерційних додатків і може бути завантажений з таких джерел, як бібліотека моделей Vertex AI Google, платформа науки про дані Kaggle і набір інструментів Google AI Studio.

Що стосується ShieldGemma, то це набір «класифікаторів безпеки», які намагаються виявити токсичність, як-от ворожнеча, переслідування та відвертий контент сексуального характеру. Побудований на основі Gemma 2, ShieldGemma можна використовувати для фільтрації підказок до генеративної моделі, а також вмісту, який створює модель.

Випуск нових моделей Gemma 2 відбувся незабаром після того, як Міністерство торгівлі США схвалило відкриті моделі ШІ в попередньому звіті. Відкриті моделі розширюють доступність генеративного штучного інтелекту для невеликих компаній, дослідників, некомерційних організацій та індивідуальних розробників, йдеться у звіті, а також підкреслюється необхідність у можливостях моніторингу таких моделей на предмет потенційних ризиків.

Джерело: TechCrunch