Илон Мъск очерта рамката за безопасен ИИ – три принципа, без които технологиите са изправени пред лудост

В подкаст с индийския милиардер Никил Камат, Илон Мъск отново предупреди за заплахите, породени от изкуствения интелект, и очерта три ключови принципа, които според него трябва да са в основата на безопасното развитие на технологията: истина, красота и любопитство. Според Мъск, игнорирането на тези принципи може да доведе до генериране на опасни изводи от страна на изкуствения интелект, губейки връзка с реалността.

Мъск, изпълнителният директор на Tesla, SpaceX, xAI, X, Neuralink и The Boring Company, подчерта, че мощните технологии са по своята същност опасни, особено ако не са основани на обективната реалност. Той отбелязва, че когато е обучен върху интернет данни, изкуственият интелект неизбежно поема невярна информация, което може да наруши способността му да разсъждава логично и да доведе до „безумни“ или разрушителни заключения.

В подкрепа на тази идея, както съобщава CNBC, Мъск цитира проблема с „халюцинациите“ – тоест, AI-системите, които генерират неверни или подвеждащи отговори — който вече се е проявил в реалните продукти. Например, в началото на 2025 г. функцията Apple Intelligence на iPhone разпространи фалшиво известие за победата на британския играч на дартс Люк Литлър в шампионата на PDC, преди той действително да е спечелил турнира.

Мъск също така подчерта важността на естетиката и стремежа към знания, заявявайки, че изкуственият интелект трябва да се интересува от природата на реалността и бъдещето на човечеството, а не да бъде инструмент за неговото унищожение. Неговата позиция отразява възгледите на „кръстника на изкуствения интелект“ Джефри Хинтън, който преди това оцени вероятността от предизвикано от изкуствения интелект човешко изчезване на 10-20%. Сред краткосрочните рискове той посочи халюцинациите и автоматизацията на работните места на базово ниво. „Надеждата ни е, че ако достатъчно умни хора направят нужните изследвания, с подходящите ресурси, ще намерим начин да създадем ИИ-системи, които никога не искат да ни навредят“ — добавя Хинтън.