Microsoft смята изкуствения интелект за опасен инструмент

Експертите на Microsoft предупреждават за сериозни рискове, свързани с използването на изкуствен интелект (AI). Това се посочва в ново проучване на корпорацията, публикувано на сървъра за препечати arXiv.

В проучването Microsoft анализира повече от 100 генеративни AI-инструмента и открива непосредствените заплахи за сигурността, свързани с тяхното използване. Компанията казва, че AI „никога няма да бъде напълно защитен„, подчертавайки необходимостта от строг контрол върху процеса на изучаване на езиковите модели (LLM) и проактивната работа за предотвратяване на грешки.

Microsoft, който е разработчик и интегратор на много AI продукти, включително Bing Chat, GitHub Copilot, Power BI и Azure AI, разбира високото ниво на отговорност, свързано с разработването на тази технология. Ето защо компанията активно инвестира ресурси в изследвания на сигурността на AI.

Големите езикови модели (LLM), според изследователите, не само увеличават съществуващите рискове, но и създават нови. Обучението на LLM с неправилни или чувствителни данни води до модели, които разпространяват тази информация сред потребителите. В допълнение, потенциалната вреда от ИИ се оценява като трудна за прогнозиране.

За повишаване на сигурността експертите на Microsoft препоръчват строг контрол на всеки етап от LLM обучението. Те акцентират върху решаващата роля на човешкия фактор, както и необходимостта от привличане на специалисти със задълбочени познания в предметната област, висока културна компетентност и развита емоционална интелигентност за работа с изкуствения интелект.