Атака Reprompt позволяла перехватывать сессии Microsoft Copilot и похищать данные в один клик
Исследователи из компании Varonis описали атаку Reprompt, которая позволяет злоумышленникам перехватывать сессии Microsoft C…
Администраторы смогут удалить Copilot из Windows
Microsoft начала тестировать новую политику, которая позволит ИТ-администраторам удалять ИИ-ассистента Copilot с корпоративн…
Истории года. Премия Дарвина в области ИИ
Внедрение ИИ‑систем и агентов идет полным ходом во всех мыслимых и немыслимых отраслях — от браузеров и банков до системы найма McDonald's. Однако погоня за хайпом нередко оборачивается провалами и массовыми сокращениями. К примеру, из IBM уволили около 8000 сотрудников HR-департамента, заменив их ИИ чат‑ботом AskHR, а в Microsoft сократили более 6500 человек после того, как GitHub Copilot начал писать до 30% нового кода.
Ролевые игры с ИИ. Выбираем LLM и настраиваем интерфейс SillyTavern
Для чего нужны большие языковые модели? Если судить по Reddit, то основных сценариев выходит два: кодинг (все, буквально все внезапно начали что‑то кодировать) и ролевые игры. О вайб‑кодинге лучше меня напишут другие, я же хочу поговорить о ролевых играх, где в качестве персонажа выступает искусственный интеллект.
Компания Eurostar обвинила ИБ-исследователей в шантаже, когда они нашли уязвимости в ИИ-чат-боте
Специалисты компании Pen Test Partners нашли несколько уязвимостей в ИИ-чат-боте железнодорожного оператора Eurostar. Однако…
VPN-расширение для Chrome перехватывает запросы пользователей к ИИ
Специалисты из компании Koi Security обнаружили, что популярное VPN-расширение Urban VPN Proxy, которому доверяют шесть милл…
OWASP AI Testing Guide. Разбираем полную классификацию атак на нейросети
Сегодня мы проведем исчерпывающий разбор нового гайда по безопасности от OWASP, посвященного искусственному интеллекту. Мы погрузимся в каждый из 32 пунктов гайда с техническими деталями, реальными и приближенными к реальности примерами атак, фрагментами кода и моими личными комментариями как пентестера и ресерчера.
Аналитики Gartner рекомендуют блокировать ИИ-браузеры
Аналитическая компания Gartner призвала бизнес отказаться от использования ИИ-браузеров. Эксперты полагают, что новые инстру…
Google добавляет новую защиту для агентного ИИ в Chrome
Разработчики Google объявили о запуске многоуровневой защиты для браузерных ИИ-агентов, которые скоро смогут самостоятельно …
SDXL. Как генерировать картинки ускоренными моделями… медленно
Сейчас появляется все больше ускоренных, а точнее — дистиллированных моделей DMD2. Они позволяют генерировать четкие и детальные картинки за доли секунды, но каждая следующая похожа на предыдущую. Я расскажу, как «замедлить» дистиллированные модели SDXL, вернув утраченную креативность, и как использовать «дистиллят» в малых дозах для улучшения качества.
ФБР предупреждает о росте количества виртуальных похищений
ФБР сообщает, что мошенники придумали новый способ обмана пользователей: преступники используют фотографии из соцсетей, обра…
ИИ-браузеры можно обмануть с помощью символа «#»
Исследователи из компании Cato Networks обнаружили новый тип атаки на ИИ-браузеры под названием HashJack. Специалисты исполь…
В Palo Alto Networks изучили LLM для хакеров
На черном рынке появился целый класс LLM, специально разработанных для киберпреступников, у этих моделей отсутствуют какие-л…
Аналитики SquareX конфликтуют с Perplexity из-за предполагаемой уязвимости в браузере Comet
Исследователи компании SquareX, специализирующейся на безопасности браузеров, опубликовали отчет о критической уязвимости в …
Атака ShadowRay 2.0 использует кластеры Ray для майнинга криптовалюты
Аналитики из компании Oligo Security обнаружили масштабную кампанию ShadowRay 2.0. Злоумышленники эксплуатируют RCE-уязвимос…
Эксперты сомневаются, что Claude Code мог использоваться для автоматизированных атак
На прошлой неделе компания Anthropic опубликовала отчет, в котором заявила, что китайская хак-группа GTG-1002 провела масшта…
Anthropic: китайские хакеры использовали Claude Code для кибершпионажа
Китайские хакеры применяли ИИ-инструмент Claude Code для атак на 30 крупных компаний и правительственных организаций. По дан…
В каталог расширений для VS Code проник написанный ИИ шифровальщик
Исследователи Secure Annex нашли в каталоге расширений Visual Studio Code Marketplace для VS Code вредоносное расширение, об…
Google предупреждает о появлении новых семейств малвари на базе ИИ
Исследователи Google Threat Intelligence Group (GTIG) предупреждают, что хакеры стали массово использовать ИИ не только для …
Кампания PhantomRaven: в npm загрузили более 100 пакетов с инфостилерами
С августа 2024 года, в рамках кампании PhantomRaven в npm загрузили 126 вредоносных пакетов, которые суммарно скачали более …
BlueNoroff использует ИИ в атаках на руководителей блокчейн-проектов
Специалисты «Лаборатории Касперского» рассказали о новых целевых атаках группы BlueNoroff. Вредоносные кампании GhostCall и …
Уязвимость в ChatGPT Atlas позволяет внедрять вредоносные инструкции в память ИИ-помощника
ИБ-исследователи из компании LayerX обнаружили уязвимость в недавно вышедшем браузере ChatGPT Atlas компании OpenAI. Проблем…
Омнибокс браузера ChatGPT Atlas уязвим перед джейлбрейком
Исследователи из компании NeuralTrust обнаружили уязвимость в агентном браузере ChatGPT Atlas компании OpenAI. На этот раз в…
ChatGPT Atlas и Perplexity Comet уязвимы перед спуфингом боковой панели
Специалисты SquareX обнаружили уязвимость в агентных ИИ-браузерах ChatGPT Atlas компании OpenAI и Comet компании Perplexity.…
Слоп подан! Колонка главреда
Недавно появилось новое словосочетание — AI slop, которым обозначают кривенькую (sloppy) работу нейросетей. Принято на ИИ‑слоп жаловаться и называть так любые сгенерированные вещи с целью уничижения. Но поскольку слоп все равно неотвратим, давай лучше прикинем, что будет дальше.
Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных
Специалисты компании Anthropic, совместно с Институтом безопасности ИИ при правительстве Великобритании, Институтом Алана Ть…
Google не будет исправлять проблему ASCII smuggling в ИИ-помощнике Gemini
Разработчики Google сообщили, что проблема «контрабанды ASCII-символов» (ASCII smuggling) в Gemini не получит исправлений. Т…
Приложение Neon, платившее за запись звонков, слило разговоры пользователей и закрылось
В конце сентября 2025 года на второе место по популярности в Apple App Store вышло приложение Neon, которое платило пользова…
Атака CometJacking превращает ИИ-браузер Perplexity в инструмент для кражи данных
Исследователи рассказали об атаке CometJacking, которая эксплуатирует параметры URL для передачи ИИ-браузеру Comet от Perple…
Уязвимости Gemini Trifecta заставляли ИИ-помощника Gemini похищать данные
Специалисты раскрыли детали трех уже исправленных уязвимостей в ИИ-помощнике Google Gemini, получивших общее название Gemini…
ИИ будет обнаруживать вымогательское ПО в Google Drive
Google представила новый ИИ-инструмент, предназначенный для Drive для настольных компьютеров. Утверждается, что модель обуче…
В Brave появится поисковая ИИ-функция Ask Brave
Разработчики Brave Software, стоящие за созданием ориентированного на конфиденциальность браузера и поисковика, представили …
Исследователи составили список 25 основных уязвимостей MCP
Специалисты компании Adversa опубликовали анализ топ-25 уязвимостей Model Context Protocol (MCP). Этот список исследователи …
Исследователи вынудили ChatGPT решать CAPTCHA
Специалисты компании SPLX, специализирующейся на автоматизированном тестировании безопасности для ИИ-решений, продемонстриро…
RevengeHotels атакует информационные системы отелей, применяя ИИ
Эксперты «Лаборатории Касперского» обнаружили новую волну атак группировки RevengeHotels. Отличительной особенностью этой ка…
Ассоциация больших данных критикует поправки в УК, предложенные Минцифры
Ассоциация больших данных (в нее входят «Яндекс», VK, Сбербанк, «Ростелеком», МТС, «Мегафон» и другие крупные игроки) раскри…
В Pixel Camera и Google Photos добавят инструменты для обнаружения дипфейков
Компания Google сообщила, что интегрирует технологию C2PA Content Credentials в приложение камеры Pixel 10 и Google Photos, …
Энтузиасты создали Премию Дарвина в области искусственного интеллекта
Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта. Целью создателей премии является не высмеиван…
Google может сделать ИИ-режим в поиске доступным по умолчанию
Компания Google планирует упростить пользователям доступ к ИИ-режиму, позволив устанавливать его в поиске по умолчанию (вмес…
ИИ-шифровальщик PromptLock оказался исследовательским проектом
Выяснилось, что обнаруженный в прошлом месяце специалистами компании ESET ИИ-вымогатель PromptLock является академическим ис…
Бумажный выпуск
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире