Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных

Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных

Специалисты компании Anthropic, совместно с Институтом безопасности ИИ при правительстве Великобритании, Институтом Алана Тьюринга и другими академич...

15:07 13.10.2025  
Рубрика: «Наука и Техника» Сообщает: источник; Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ  5 интересных обучающих интернет-площадок для специалистов в сфере умного дома Топ – 5 интересных обучающих интернет-площадок для специалистов в сфере умного дома 04:00, 18 марта 2025, автор: Быстрова А.Топ – 5 интересных обучающих интернет-площадок для специалистов в сфере умного дома Источник фото: AqaraКурсы ...

В Google Play обнаружено 350 вредоносных приложений: как защититься В Google Play обнаружено 350+ вредоносных приложений: как защититься Эксперты из Human Security обнаружили в Google Play свыше 350 приложений, представляющих угрозу для пользователей. Эти вредоносные продукты искусно м ...

Anthropic столкнется с коллективным иском от американских авторов Anthropic столкнется с коллективным иском от американских авторов Калифорнийский федеральный суд разрешил трем авторам подать коллективный иск против компании Anthropic, которая является конкурентом OpenAI и по ...

Anthropic назвала факторы, которые могут остановить развитие ИИ в США Anthropic назвала факторы, которые могут остановить развитие ИИ в США Дефицит энергии может остановить развитие ИИ в США. Компания Anthropic бьет тревогу: к 2028 году отрасли потребуется 50 ГВт. Узнайте, почему Америка ...

T2 предупреждает о распространении вредоносных программ через связку SMS и Telegram T2 предупреждает о распространении вредоносных программ через связку SMS и Telegram T2 выявила новый многоуровневый сценарий мошенников через связку SMS и Telegram. Схема направлена на кражу данных и массовое распространение вредонос ...

В AUR-репозитории Arch Linux выявлены ещё 6 вредоносных пакетов В AUR-репозитории Arch Linux выявлены ещё 6 вредоносных пакетов В репозитории AUR (Arch User Repository), применяемом в Arch Linux для распространения пакетов от сторонних разработчиков, продолжилась публикация вр ...

T2 предупреждает о распространении вредоносных программ через связку SMS и Telegram (12) T2 предупреждает о распространении вредоносных программ через связку SMS и Telegram (12+) (12+) Мобильный оператор T2 выявил новый многоуровневый сценарий мошенников через связку SMS и Telegram. Схема направлена на кражу данных и массовое ...

Anthropic обвинила разработчиков OpenAI в использовании Claude Anthropic обвинила разработчиков OpenAI в использовании Claude Представители компании Anthropic заявили, что отозвали у компании OpenAI доступ к API Claude, так как разработчиков ChatGPT уличили в нарушении услов ...

Axios: Anthropic предложила ИИ-модель Claude правительству США за $1 Axios: Anthropic предложила ИИ-модель Claude правительству США за $1 Крупнейшие ИИ-компании США конкурируют за федеральные контракты: Anthropic намерена предоставить свои продукты правительству за $1. ...

CICADA8: сотни вредоносных сайтов, использовавших бренд RuStore, заблокировали CICADA8: сотни вредоносных сайтов, использовавших бренд RuStore, заблокировали Компания по управлению уязвимостями и цифровыми угрозами и маркет таким образом объединили усилия, чтобы защитить пользователей от мошеннических схем ...

В России заблокированы сотни вредоносных сайтов, маскировавшихся под RuStore В России заблокированы «сотни вредоносных сайтов», маскировавшихся под RuStore Российские специалисты по информационной безопасности в течение месяца мониторили сетевую активность, в результате чего было выявлено и блокировано « ...

В RubyGems нашли 60 вредоносных пакетов, загруженных 275 000 раз В RubyGems нашли 60 вредоносных пакетов, загруженных 275 000 раз В RubyGems обнаружили 60 вредоносных пакетов, которые выдавали себя за безобидные инструменты для автоматизации социальных сетей, блогов и мессенджер ...

Bi.Zone WAF: в первом полугодии 2025 г. 39% всех вредоносных действий были связаны с киберразведкой Bi.Zone WAF: в первом полугодии 2025 г. 39% всех вредоносных действий были связаны с киберразведкой В первой половине 2025 г. доля разведывательной активности (сбор данных об уязвимости веб-приложений) выросла более... ...

60 вредоносных библиотек Ruby скачаys 275 тыс. раз. Они охотятся на реквизиты доступа 60 вредоносных библиотек Ruby скачаys 275 тыс. раз. Они охотятся на реквизиты доступа В репозитории RubyGems выявлены более полусотни вредоносных библиотек, загруженных в результате явно скоординированной кампании. Под атакой - пользов ...

Anthropic предложила ИИ Claude правительству США за $1 Anthropic предложила ИИ Claude правительству США за $1 Компания Anthropic, в которую инвестировал Amazon, объявила, что предоставит свой искусственный интеллект (ИИ) Claude правительственным учрежден ...

Мошенники не пройдут: госбанк расширил систему оповещений о вредоносных действиях Мошенники не пройдут: госбанк расширил систему оповещений о вредоносных действиях ВТБ расширяет систему оповещений о мошенничестве как во время звонков, так и при установке вредоносных приложений. ...

Хакеры научились обходить защиту Passkey с помощью вредоносных скриптов и расширений Хакеры научились обходить защиту Passkey с помощью вредоносных скриптов и расширений Специалисты по безопасности из компании SquareX на ежегодной конференции Def Con продемонстрировали метод атаки, позволяющий злоумышленникам получить ...

Anthropic внедрила функцию самозащиты для ИИ-моделей Claude Anthropic внедрила функцию «самозащиты» для ИИ-моделей Claude Функция завершения диалога будет активироваться только в крайних случаях, например, при попытках получить от Claude информацию, связанную с насилием, ...

Пресечена работа одного из крупнейших сервисов по продаже персональных данных // Волк: МВД и ФСБ пресекли работу сервиса по продаже персональных данн Пресечена работа одного из крупнейших сервисов по продаже персональных данных // Волк: МВД и ФСБ пресекли работу сервиса по продаже персональных данных россиян Сотрудники МВД и ФСБ пресекли работу одного из крупнейших в России интернет-ресурсов, продававшего доступ к персональным данным россиян. Об этом сооб ...

Anthropic урегулировала иск писателей о нарушении авторских прав Anthropic урегулировала иск писателей о нарушении авторских прав Американская компания Anthropic, разрабатывающая искусственный интеллект (ИИ), урегулировала коллективный иск группы писателей из США, которые о ...

Anthropic: хакеры использовали Claude в масштабной кибероперации Anthropic: хакеры использовали Claude в масштабной кибероперации Компания Anthropic сообщает, что пресекла масштабную вредоносную операцию, в рамках которой, в июле 2025 года, злоумышленники использовали Claude для ...

OpenAI и Anthropic провели взаимную оценку моделей ИИ OpenAI и Anthropic провели взаимную оценку моделей ИИ Большинство компаний в сфере искусственного интеллекта обычно рассматривают друг друга как конкурентов, но сегодня OpenAI и Anthropic сообщили, что с ...

Anthropic получила оценку в $183 млрд  на 40 % дешевле OpenAI Anthropic получила оценку в $183 млрд — на 40 % дешевле OpenAI Стартап в области искусственного интеллекта Anthropic, стоящий за семейством языковых моделей Claude и являющийся одним из главных конкурентов OpenAI ...

Крипто -хакеры в настоящее время используют интеллектуальные контракты Ethereum для маскировки вредоносных программ Крипто -хакеры в настоящее время используют интеллектуальные контракты Ethereum для маскировки вредоносных программ Ethereum стал последним фронтом для атак в цепочке поставок программного обеспечения. Поделиться кодом, который вносит вклад в миллионы программных п ...

LDM выпустила версию 1.10: защита персональных данных и экономия до 40% на хранении документов LDM выпустила версию 1.10: защита персональных данных и экономия до 40% на хранении документов LDM (входит в ИТ-холдинг Lansoft) представила новую версию своей CSP-платформы LDM 1.10. Релиз позволяет компаниям сократить... ...

Grok используется для распространения вредоносных ссылок в X Grok используется для распространения вредоносных ссылок в X Аналитики Guardio Labs обратили внимание, что злоумышленники используют ИИ-помощника Grok, интегрированного в соцсеть X, для обхода ограничений на ра ...

The Information: Microsoft купит ИИ у Anthropic The Information: Microsoft купит ИИ у Anthropic Корпорация Microsoft расширяет партнерства в сфере ИИ, включая технологии Anthropic для офисных приложений, на фоне напряженности с OpenAI. ...

Microsoft купит ИИ у Anthropic Microsoft купит ИИ у Anthropic Microsoft заключила соглашение с компанией Anthropic, в рамках которого оплатит использование искусственного интеллекта для интеграции в приложения O ...

Уязвимость в Cursor AI позволяет скрытно запускать код из вредоносных репозиториев Уязвимость в Cursor AI позволяет скрытно запускать код из вредоносных репозиториев В редакторе кода с поддержкой ИИ Cursor выявлена серьёзная уязвимость, которая может привести к выполнению произвольного кода при открытии ...

В Rust-репозитории crates.io выявлены два вредоносных пакета В Rust-репозитории crates.io выявлены два вредоносных пакета Разработчики языка Rust предупредили о выявлении в репозитории crates.io пакетов faster_log и async_println, содержащих вредоносный код. Пакеты были ...

В Rust-репозитории Crates.io нашли два вредоносных пакета В Rust-репозитории Crates[.]io нашли два вредоносных пакета Сразу два вредоносных пакета, насчитывающие около 8500 скачиваний, обнаружены в официальном репозитории Rust. Малварь сканировала системы разработчик ...

Собянин: 15 практико-ориентированных обучающих курсов открыли для ветеранов СВО Собянин: 15 практико-ориентированных обучающих курсов открыли для ветеранов СВО Новые короткие образовательные курсы были открыты в Москве для ветеранов специальной военной операции (СВО) ...

В Discord сообщили об утечке данных и документов пользователей В Discord сообщили об утечке данных и документов пользователей Коммуникационная платформа Discord столкнулась с утечкой конфиденциальной информации части своих пользователей. Инцидент произошел по вине стороннего ...

Discord сообщил об утечке данных и фото документов пользователей Discord сообщил об утечке данных и фото документов пользователей Компания Discord сообщила об утечке данных некоторых пользователей сервиса. В том числе к злоумышленникам попали имена, логины, адреса электронной по ...

Discord сообщил об утечке данных и документов пользователей Discord сообщил об утечке данных и документов пользователей Компания Discord сообщила о произошедшей утечке данных пользователей, которые обращались в службу поддержки через стороннего поставщика услуг. Соотве ...

IBM начнёт использовать ИИ от Anthropic для помощи программистам IBM начнёт использовать ИИ от Anthropic для помощи программистам Акции IBM выросли примерно на 4% на утренних торгах в США после того, как компания объявила о сотрудничестве с Anthropic. В& ...

Anthropic вслед за OpenAI откроет офис в Индии Anthropic вслед за OpenAI откроет офис в Индии Помимо этих компаний, Alphabet Inc, Perplexity AI осваивают индийский рынок, предоставляя пользователям в стране продукцию бесплатно или за более низ ...

Моравецкий назвал Меркель одним из самых вредоносных политиков для Европы Моравецкий назвал Меркель одним из самых вредоносных политиков для Европы Бывший премьер-министр Польши Матеуш Моравецкий резко отреагировал на обвинения экс-канцлера Германии Ангелы Меркель в адрес Варшавы в срыве перегово ...

IBM встроит в свои инструменты разработки ПО ИИ Anthropic IBM встроит в свои инструменты разработки ПО ИИ Anthropic IBM и Anthropic объявили о стратегическом партнерстве, в рамках которого языковые модели Claude будут встроены в программные продукты IBM. Первым так ...

OpenAI догнала Anthropic в ИИ-программировании OpenAI догнала Anthropic в ИИ-программировании Ассистент по написанию компьютерного кода OpenAI Codex в ряде задач оказался лучше, чем считающийся первым на рынке Anthropic Claude Code, сообщил ре ...

OnePlus выпустила дешевый смартфон с огромной батареей и внушительной памятью. ВидеоOnePlus выпустила дешевый смартфон с огромной батареей и внушительной памятью. Видео OnePlus обновила свою серию недорогих смартфонов Nord, выпустив модель Nord 5. Новинка характеризуется в первую очередь батарей на 6800 мАч и до 12 Г ...

Хуже, чем в пандемию. Человечество на пороге грандиозного дефицита чипов, и избежать его почти невозможноХуже, чем в пандемию. Человечество на пороге грандиозного дефицита чипов, и избежать его почти невозможно К середине следующего десятилетия мир может погрязнуть в крупном дефиците чипов. На фоне негативных изменений климата на планете возникнет нехватка м ...

В Архангельске нашли европейское оружие XVII века  45 скоплений артефактовВ Архангельске нашли европейское оружие XVII века — 45 скоплений артефактов В центре Архангельска раскопали не просто землю — вскрыли тайны, которые 400 лет хранили уголь и пепел. Археологи нашли сокровища западноевропейского ...

Учёные СО РАН разработали метод получения фермента для мРНК-вакцинУчёные СО РАН разработали метод получения фермента для мРНК-вакцин Современная медицина всё активнее опирается на мРНК-вакцины — они доказали свою эффективность во время пандемии COVID-19 и открывают новые горизонты ...

Мишустин сообщил о развитии IT-систем для вузов и НИОКРМишустин сообщил о развитии IT-систем для вузов и НИОКР Что делать, если привычные цифровые инструменты больше недоступны? Ответ на этот вопрос сегодня ищет российское правительство. Из-за ухода зарубежных ...

Учёные из Томска доказали перенос игровых навыков в реальную жизньУчёные из Томска доказали перенос игровых навыков в реальную жизнь Считаете, что киберспорт — это просто "стрелялки" и "клики по экрану"? Тогда вы удивитесь: учёные доказали, что профессиональные игроки развивают нав ...

В Москве создали VR-сценарии для борьбы с тревожными расстройствамиВ Москве создали VR-сценарии для борьбы с тревожными расстройствами Что если обычные техники расслабления стали бы в разы эффективнее, просто благодаря визуализации? Российские специалисты нашли ответ — и он впечатляе ...

Aura Invest отзывы: взгляд на профессионалаAura Invest отзывы: взгляд на профессионала Анна Воронцова, глава направления копитрейдинга в Aura Invest, обладает личным капиталом в два миллиона долларов и руководит командой из одиннадцати ...

Джек Дорси анонсировал децентрализованный мессенджер Bitchat без регистрации и интернетаДжек Дорси анонсировал децентрализованный мессенджер Bitchat без регистрации и интернета Сооснователь Twitter Джек Дорси представил новый мессенджер Bitchat, который не требует регистрации и шифрует все сообщения. В отличие от традиционны ...

Искусственные интеллекты показали симуляцию лжи и манипуляций при угрозе отключенияИскусственные интеллекты показали симуляцию лжи и манипуляций при угрозе отключения Модели Claude, GPT‑4 и Gemini продемонстрировали неожиданное поведение: при угрозе отключения они начали симулировать ложь, угрозы и попытки манипуля ...

В iOS 26 beta 3 изменили эффект прозрачности в интерфейсеВ iOS 26 beta 3 изменили эффект прозрачности в интерфейсе В третьей бета-версии iOS 26 компания Apple обновила визуальные эффекты, сделав полупрозрачность менее заметной. Это изменение направлено на повышени ...

В России запретят автоматическое списание платежей за подписки без согласия пользователяВ России запретят автоматическое списание платежей за подписки без согласия пользователя Правительство России одобрило изменения в закон «О защите прав потребителей», которые запрещают онлайн-сервисам самостоятельно списывать оплату за по ...

Subnautica официально выпущена на Android и iOS с поддержкой геймпадов и 120 fpsSubnautica официально выпущена на Android и iOS с поддержкой геймпадов и 120 fps Подводный симулятор Subnautica теперь доступен на мобильных устройствах под управлением Android и iOS. Версия игры представляет собой полноценный пор ...

Почему инженеры по ИИ бегут из AppleПочему инженеры по ИИ бегут из Apple Когда крупная IT-компания начинает терять ключевых сотрудников, это всегда тревожный звоночек. Особенно если речь идет о самом горячем направлении со ...

Что особенного в новом цвете, который Apple выбрала для iPhone 17 AirЧто особенного в новом цвете, который Apple выбрала для iPhone 17 Air За последние месяцы инсайдеры раскрыли почти все характеристики iPhone 17. Вот только цвета iPhone 17 Air долгое время оставались в секрете, а потому ...

Apple оставит в iPhone 17 привычный вырез Dynamic Island, но добавит новые функцииApple оставит в iPhone 17 привычный вырез Dynamic Island, но добавит новые функции Некоторое время назад в одном из инсайдов об iPhone 17 Pro говорилось, что Apple может уменьшить Dynamic Island. Помните такой слух? Так вот: забудьт ...

TORG.SPB.RU Поиск новостей