Учените от DeepMind са убедени, че изкуственият общ интелект ( AGI ) с възможности на човешко ниво ще бъде разработен до 2030 г. и може да причини сериозни вреди, ако не бъде контролиран.
Екипът на DeepMind, ръководен от съоснователя на компанията Шейн Лег, категоризира негативните последици от AGI. Изследователите идентифицираха четири заплахи: злоупотреба, несъответствие, грешки и структурни рискове, пише Ars Technica.
Злоупотребата е подобна на настоящите рискове, свързани с ИИ. AGI може да се използва за злоупотреба. Например, може да бъде помолен да открие и използва уязвимости от нулевия ден или да създаде дизайнерски вирус, който може да се използва като биологично оръжие. DeepMind казва, че разработващите AGI компании ще трябва да проведат обширни тестове и да създадат стабилни протоколи за сигурност след обучение, за да избегнат това.
Втората заплаха е несъответствието. Този тип злодеяние на AGI се описва като измамна машина, която е избягала от наложените от нейните разработчици ограничения. Такъв AI извършва действия, които разработчиците не са имали предвид. DeepMind твърди, че става въпрос за нещо повече от обикновена измама или интрига. За да се избегне това, DeepMind предлага на разработчиците да използват техники като подобрен надзор. Например, две копия на изкуствен интелект могат взаимно да проверяват необработените данни, за да създадат надеждни системи, които е малко вероятно да мамят.
Бъговете са друга заплаха. Става дума за вредни резултати, които не са предвидени от оператора. DeepMind отбелязва, че военните може да разположат AGI поради конкурентен натиск, но такива системи могат да направят сериозни грешки, които да имат фатални последици. Изследователите не предлагат решение на този проблем, освен предотвратяване на AGI да стане твърде мощен.
Изследователите също така говорят за структурни рискове, които DeepMind определя като непреднамерени, но реални последици от многоагентни системи. Например, AGI може да създаде невярна информация, която е толкова правдоподобна, че е трудно да се разбере дали може да ѝ се вярва.
DeepMind представя този доклад относно рисковете от AGI като отправна точка за жизненоважни дискусии относно предизвикателствата на изкуствения интелект на бъдещето.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
