Хакерската конференция Def Con ще бъде домакин на хиляди „бели“ хакери, които ще се изправят срещу генеративен ИИ

Всяка година хакерската конференция Def Con събира професионалисти в областта на компютърната сигурност, журналисти, адвокати, служители на федералното правителство на САЩ, изследователи и програмисти. Целта е „хакването“ на хардуер, софтуер или нещо друго, което може да бъде „хакнато“. Тазгодишното издание ще бъде с основен акцент върху алгоритмите на изкуствения интелект.

Планирано за 10-13 август в Лас Вегас, изданието на конференцията Def Con за тази година ще бъде домакин на голямо събитие, изцяло посветено на атаките срещу големите езикови модели (LLM), използвани от генеративните алгоритми на изкуствения интелект. Популярната хакерска конференция ще бъде домакин на инициативата AI Village (AIV) с първото публично събитие на червения екип за генеративен ИИ.

Организаторите на Def Con очакват хиляди специалисти по сигурността, студенти и „бели“ хакери (те не ползват своите знания, за да причиняват вреда, а да помагат за подобряване на сигурността в интернет) които се интересуват от тестването на услугите на LLM, като моделите на ИИ ще бъдат предоставени от Anthropic, Google, Hugging Face, Nvidia, OpenAI и Stability. Тестерите и магьосниците на кода ще използват платформа за оценка, разработена от Scale AI.

Участниците ще използват лаптопи, осигурени от Def Con, който също така ще управлява времевия (и вероятно неограничен) достъп до множество LLM. Точкова система ще насърчава тестването на широк кръг от проблеми, като от червените екипи се очаква да спазват „хакерската хипократова клетва“ – каквото и да означава това всъщност. Лицето, което получи най-голям брой точки, ще спечели „висок клас“ (макар и неуточнена) видеокарта Nvidia.

В официалния блог на AI Village се посочва, че магистърските програми за висше образование водят до безпрецедентна експлозия на творчеството, като помагат на хората да реализират идеите си по-бързо, намаляват бариерите за навлизане в творчески области и позволяват „нови видове творческо съдържание“. С големите сили обаче идват и още по-големи проблеми със сигурността, които едва сега започваме да разбираме, тъй като LLM технологиите се автоматизират в огромен мащаб.

Def Con ще осигури начин за намиране на повече проблеми в рамките на LLM услугите, каза Свен Катъл, основател на AI Village, тъй като наградите за грешки, хакерските събития на живо и други „ангажименти на общността в областта на сигурността“ могат да бъдат адаптирани за тестване срещу системи, базирани на модели за машинно обучение. Събитието AI Village през август ще бъде „съвместно усилие“, което ще събере хакери, партньори от обществени групи, групи с нестопанска цел и дори поддръжници на правителството на САЩ.