Google удаляет модель Gemma после скандала
Недавний скандал вокруг модели Gemma от компании Google в очередной раз обнажил риски использования тестовых моделей для разработчиков и непостоянство доступности таких решений.
Компания Google отозвала свою модель Gemma 3 из AI Studio после заявления сенатора Марши Блэкберн (республиканка від штату Теннесси) о том, что модель Gemma намеренно выдавала вымышленные ложные сведения о ней. Блэкберн заявила, что модель сфабриковала новостные материалы о ней, что выходит за рамки «безобидной галлюцинации» и квалифицируется как клевета.
В ответ на это Google опубликовала пост в X 31 октября, сообщив, что удалит Gemma из AI Studio «во избежание путаницы». При этом модель Gemma по-прежнему доступна через API.
Она также доступна через AI Studio, которая, как пояснили в компании, представляет собой «инструмент для разработчиков (фактически, для его использования необходимо подтвердить свой статус разработчика). Мы столкнулись с сообщениями о том, что неразработчики пытаются использовать Gemma в AI Studio и задают ей вопросы фактологического характера. Мы никогда не планировали делать этот инструмент или модель потребительскими или использовать их подобным образом. Чтобы предотвратить путаницу, доступ к Gemma в AI Studio больше не предоставляется».
Следует признать, что Google имеет право удалять свои модели с платформ, особенно если были обнаружены галлюцинации и ложные сведения, способные распространяться дальше. Это также подчеркивает опасность чрезмерной опоры на экспериментальные модели и объясняет, почему корпоративным разработчикам необходимо сохранять свои проекты до того, как ИИ-модели будут закрыты или удалены. Технологические компании, такие как Google, продолжают сталкиваться с политическими скандалами, которые часто влияют на их разработки.
Издание VentureBeat обратилось в Google за дополнительными комментариями, где их перенаправили на октябрьские посты компании в соцсетях. Мы также связались с офисом сенатора Блэкберн, которая подтвердила свою позицию, изложенную ранее: по ее мнению, компании, занимающиеся искусственным интеллектом, должны «отключать [модели] до тех пор, пока вы не научитесь их контролировать».
Эксперименты разработчиков
Семейство моделей Gemma, в которое входит версия с 270 миллионами параметров, лучше всего подходит для небольших быстродействующих приложений и задач, способных выполняться на таких устройствах, как смартфоны и ноутбуки. В Google заявили, что модели Gemma «были созданы специально для сообщества разработчиков и исследователей. Они не предназначены для предоставления фактологической помощи или использования обычными потребителями».
Тем не менее, неразработчики по-прежнему могли получить доступ к Gemma, поскольку она размещена на платформе AI Studio — более дружелюбной для новичков среде, где разработчики могут экспериментировать с моделями Google AI по сравнению с Vertex AI. Так что подобные ситуации могут возникать, даже если Google изначально не планировала делать Gemma и AI Studio доступными, например, для сотрудников аппарата Конгресса.
Это также демонстрирует, что по мере совершенствования систем искусственного интеллекта они все равно продолжают выдавать неточную и потенциально вредоносную информацию. Бизнесу приходится постоянно сопоставлять выгоду от использования таких моделей, как Gemma, с рисками их возможных погрешностей.
Непрерывность проектов
Еще одна проблема связана с тем уровнем контроля, который компании имеют над своими моделями. Известная истина «вы ничего не владеете в интернете» остается актуальной. Если у вас нет физической или локальной копии программного обеспечения, вы легко можете потерять к нему доступ, если владеющая им компания решит отозвать продукт. В Google не уточнили в комментарии для VentureBeat, будут ли сохранены текущие проекты в AI Studio, работающие на базе Gemma.
Аналогичным образом пользователи OpenAI были разочарованы, когда компания объявила о намерении удалить популярные старые модели из ChatGPT. Даже после того, как генеральный директор OpenAI Сэм Альтман взял свои слова назад и вернул GPT-4o в ChatGPT, ему продолжают поступать вопросы относительно сохранения и поддержки этой модели.
ИИ-компании могут и должны удалять свои модели, если те генерируют вредоносный контент. Модели искусственного интеллекта, независимо от степени их зрелости, остаются незаконченными проектами, которые постоянно развиваются и совершенствуются. Однако в силу своей экспериментальной природы они легко могут превратиться в инструмент рычагов влияния в руках технологических корпораций и законодателей. Корпоративные разработчики должны гарантировать возможность сохранения своей работы до того, как модели будут удалены с платформ.
