AI безопасност

Anthropic разследва инцидент с неоторизиран достъп до Mythos

Моделът Mythos на Anthropic, който използва технология за изкуствен интелект за търсене на уязвимости в софтуера, първоначално се предлагаше в ограничена версия от съображения за сигурност. Сега се появиха съобщения за първия случай на получаване на неоторизиран достъп от...

Можем ли да спрем ИИ? DeepMind предупреждава за 4 основни риска

Изкуственият интелект се използва в бизнеса и дори в държавната администрация, въпреки че все още е далеч от съвършенство. Но какво ще се случи, ако тези системи започнат да не работят по предназначение? Изследователи от Google DeepMind публикуваха третата...

Нов вид атака: „Перманентен джейлбрейк“ за ИИ, който променя поведението му завинаги

Само с една злонамерена инструкция машината завинаги се подчинява на злоумишлениците. Уязвимостта SpAIware бе открита във Windsurf Cascade - средата за разработка, насочена към автоматизиране кода на изкуствения интелект и подпомагане на програмистите. Тя дава възможност за инжектиране на команди...

Джефри Хинтън, „кръстникът на изкуствения интелект“: Може би сме обречени. Но ще е срамота да е, защото не сме се опитали

Вчера основната зала на GITEX Europe в Берлин беше пълна до последното място – учени, инвеститори, представители на големи технологични компании и институции от цял свят. Всички чакаха да чуят човек, за когото вече не се говори просто като...

Нови ревюта

На вид е Yoga, отвътре е малка работна станция: тествахме Lenovo Yoga Pro 7i Gen 11

Има един много прост тест за лаптоп, който претендира, че е направен за хора, работещи в движение: колко често се налага да правиш компромис,...

Най-четени