Кодексът на Google за изкуствения интелект: седем заповеди и четири забрани

На фона на скандала с Пентагона, Google публикува първия кодекс, съдържащ принципите за разработване на изкуствен интелект.

Google заяви, че няма да разработва ИИ, който може да навреди.

Постът в официалния блог на Google е публикуван от името на генералния директор Сундар Пичай. Той подчертава, че компанията, в ролята на най-големия разработчик на ИИ, е формулирала основните принципи за неговото разработване.

Google определи седемте основни принципа, които ще ръководят работата на компанията занапред. Това не са теоретични понятия, а конкретни стандарти, които най-активно ще ръководят изследването и разработката на нови ИИ продукти, и ще оказват влияние върху бизнес решенията на интернет гиганта.

1. Изкуственият интелект трябва да е полезен за обществото. Google ще разработва ИИ само тогава, когато предполагаемата полза значително превишава рисковете от причиняване на вреда.
2. Избягване на несправедливите предубеждения. Зачитане на расата, етническата принадлежност, пола, националността, доходите, сексуалната ориентация, способностите, политическите и религиозните убеждения.
3. ИИ трябва да е безопасен и непрекъснато тестван за безопасност.
4. ИИ трябва да бъде отговорен пред хората. Google подчертава, че неговите ИИ системи ще предоставят обратна връзка и възможност за бърза промяна. Винаги хората ще управляват и направляват изкуствения интелект.
5. ИИ ще спазва конфиденциалността на личните данни. Прозрачност и проследяване на всички данни.
6. Съответствие на най-високите стандарти в науката. Компютърните помощници трябва да съответстват на изискванията на научното общество.
7. ИИ да може да се използва при спазването на тези принципи. Внимателна преценка на вероятната употреба на изкуствения интелект и ограничаване на потенциално вредните или злоумишлени приложения.

Едновременно с това Google обозначи и четирите сфери, за които няма да разработва изкуствен интелект. Първо, каквито и да било технологии, причиняващи вреда. Второ, ИИ няма да се използва за оръжия или други технологии, които могат да доведат до нараняване на хората. Трето, технологиите, които събират и използват данни в нарушение на международно приетите норми. Четвърто, технологии, които противоречат на международното право и направата на човека.