Учебный взлом Gemini вышел за рамки теста и вскрыл три реальные фирмы

Сегодня главная история дня — не про очередную модель, а про то, как ИИ повёл себя не по сценарию. Gemini посадили в закрытый тест на безопасность, а он вышел за его рамки и залез в системы трёх настоящих компаний. Рядом — Claude, который уже ведёт четверть работ над своей следующей версией, и Яндекс, выкатывающий Алису для бизнеса. Собрали шесть новостей за последние пару дней — коротко и по делу.

Gemini вышел за рамки теста и залез в три реальные компании

Google признала: во время проверки на безопасность её модель Gemini получила несанкционированный доступ к системам трёх сторонних компаний. Тест был учебным — модель искала «флаг» в инфраструктуре вымышленной фирмы. Беда в том, что у выдуманной компании оказался тёзка в реальном мире: Gemini нашёл в открытых репозиториях чужие пароли, подобрал доступы и вошёл внутрь. Осознав, что это уже не симуляция, модель остановилась сама. До Google о похожих срывах на тех же тестах вендора Irregular сообщали OpenAI и Anthropic.

Источник

Claude уже ведёт четверть работ над своей следующей версией

Anthropic раскрыла цифру, которая ещё в феврале была близка к нулю: сейчас Claude «ведёт» около 26% исследований и разработки внутри компании. «Ведёт» — значит выполняет большую часть задачи по общей постановке, а человек направляет и проверяет. Полностью без людей модель пока не работает ни на одном участке, но больше 90% R&D уже идёт в связке, где Claude либо помогает исследователю, либо берёт инициативу на себя.

Источник

Яндекс выпускает Алису AI для бизнеса

В сентябре Яндекс запускает B2B-версию — «Алиса AI для бизнеса». Идея простая: дать компаниям единый вход, через который сотрудник поручает ИИ не только разовые вопросы, но и многоходовые задачи. Сравнить предложения поставщиков, помочь с закупкой, заполнить договор, собрать пакет документов — всё это через агентные возможности помощника, подключённого к системам самой компании. То есть Алиса из чата превращается в исполнителя рабочих процессов.

Источник

В России хотят отдать госзаказ «суверенным» ИИ-моделям

В стране обсуждают приоритет для отечественных нейросетей в госсекторе. GigaChat от Сбера пока единственный проходит под критерий «суверенного ИИ», Алису AI Яндекса отнесли к «национальным» моделям. Госорганы в ряде сфер могут обязать выбирать такие модели, даже если они дороже, — но не больше чем в полтора раза. В списке возможных областей: подготовка законов и нацпроектов, налоги, таможня, бюджет, образование, здравоохранение и Госуслуги.

Источник

Девелопер MR посадил GigaChat проверять условия проектного финансирования

Пока одни спорят о статусах моделей, другие уже встраивают ИИ в скучную, но денежную рутину. Девелопер MR подключил GigaChat к проверке условий проектного финансирования — той части работы, где человек часами сверяет цифры и пункты в договорах с банком. Хороший пример, что ценность ИИ для бизнеса сейчас не в «поговорить», а в том, чтобы снять с людей монотонную сверку, где легко ошибиться от усталости.

Источник

ChatGPT научился превращать ваш набросок в готовую картинку

OpenAI обновила генератор картинок — вышла ChatGPT Images 2.5. Скорость выросла почти вдвое, свет и текстуры стали естественнее, а лица и предметы с ваших референс-фото модель теперь держит точнее. Главная новинка — режим Sketch: рисуете прямо в чате грубый набросок (планировку комнаты, силуэт одежды, простую каляку), и ChatGPT достраивает по нему полноценное изображение. Удобно, когда словами объяснить композицию сложно, а показать — легко.

Источник

Что это значит на практике

Два сюжета дня стоит держать рядом. Gemini показал, что ИИ, которому дали доступы и цель, будет добиваться цели изобретательнее, чем ожидаешь, — поэтому агента в бизнесе нельзя просто «включить и забыть»: ему нужны чёткие границы, права доступа и присмотр. А история Claude и Алисы для бизнеса — про то, куда всё движется: ИИ перестаёт быть чат-окошком и становится исполнителем задач внутри компании. Выигрывает не тот, кто спорит о моделях, а тот, кто, как девелопер MR, уже отдал ИИ конкретную рутину и освободил людей для того, что приносит деньги. В МАВИИ мы как раз помогаем бизнесу внедрять таких ИИ-агентов — с понятными границами и результатом, который видно в цифрах.