Миналата седмица няколко технологични лидери пристигнаха в Капитолия, за да обсъдят бързото развитие на генеративния изкуствен интелект. Срещата беше предимно спокойна, докато не стана дума за потенциалните вреди от новия модел Llama 2 на Meta.
По време на дискусията, на която присъстваха повечето от 100-те членове на Сената, Тристан Харис, съосновател на Центъра за хуманни технологии, заяви, че наскоро е накарал инженерите да направят „тест драйв“ на мощния голям езиков модел Llama 2 на Meta. След известно подканяне Харис каза, че в чата с Llama 2 е получил подробна инструкция за това как да се създаде антракс като биологично оръжие, според един от запознатите с форума и двама присъстващи сенатори.
Това предизвика размяна на реплики между Харис и Марк Зъкърбърг, съосновател и главен изпълнителен директор на Meta.
Сред двете дузини технологични лидери на форума бяха Илон Мъск, собственик на Twitter и главен изпълнителен директор на Tesla и SpaceX; Сам Алтман, главен изпълнителен директор на OpenAI; Сатя Надела, главен изпълнителен директор на Microsoft; Дженсън Хуанг, главен изпълнителен директор на Nvidia; и Сундар Пичай, главен изпълнителен директор на Google.
Събирането беше ръководено от лидера на мнозинството в Сената Чък Шумър, сенатора демократ Мартин Хайнрих, сенатора републиканец Дж. Майк Раундс и Тод Йънг, които съставляват новата „работна група за изкуствен интелект“.
Групата се сформира по-рано тази година, няколко месеца след като ботът ChatGPT на OpenAI стана известен в целия свят.
По време на сесията Зъкърбърг се опита да омаловажи изявлението на Харис, че Llama 2 може да каже на потребителите как да направят антракс. Той заявил, че всеки, който търси такова ръководство, може да разбере как да направи антракс в YouTube, според двамата присъстващи сенатори. Харис отхвърлил този аргумент, като заявил, че такива ръководства не се появяват в YouTube, а дори и да се появят, нивото на детайлност и насоките, предоставени от Llama 2, са уникални за такъв мощен генеративен модел на изкуствен интелект. Освен това той до голяма степен е модел с отворен код, което означава, че е свободно достъпен за използване и адаптиране.
Това беше един от малкото моменти в цялата работа, който беше по-напечен. Двадесет и четирима от 26-те участници в дискусията казаха едно и също нещо отново и отново: „Трябва да защитим иновациите в областта на изкуствения интелект, но при наличието на предпазни мерки.
Един от сенаторите за момента, който е привлякъл вниманието на всички участници.
И Харис и говорител на Meta са отказали коментар пред Insider
Според тримата запознати със срещата, освен краткия скандал между Харис и Зъкърбърг, не е имало задълбочено обсъждане на въпросите, свързани с ИИ. Дори способността на Llama 2 да напътства потенциален потребител как да създаде антракс не е била причина за по-сериозно проучване.
Беше като „Добре, нека следващият да вземе думата“ и всичко продължи.
Сенатор, присъствал на срещата.
Силата на Llama 2 е добре позната в Meta.
Способността да генерира подробни инструкции за създаване на биологично оръжие като антракс е очаквана, коментират двама души, запознати с компанията.
Наистина, това ще се отнася за всяка Llama 2 от определен размер, освен ако не я ограничите за определени неща. Ще има крайни случаи. Но тези, които са продукти, като ChatGPT, за разлика от версиите с отворен код, те просто биват ограничени по конкретни теми.
Едно от лицата, запознати с работата на Meta.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
