На фона на скандала с Пентагона, Google публикува първия кодекс, съдържащ принципите за разработване на изкуствен интелект.

Google заяви, че няма да разработва ИИ, който може да навреди.

Постът в официалния блог на Google е публикуван от името на генералния директор Сундар Пичай. Той подчертава, че компанията, в ролята на най-големия разработчик на ИИ, е формулирала основните принципи за неговото разработване.

Google определи седемте основни принципа, които ще ръководят работата на компанията занапред. Това не са теоретични понятия, а конкретни стандарти, които най-активно ще ръководят изследването и разработката на нови ИИ продукти, и ще оказват влияние върху бизнес решенията на интернет гиганта.

  1. Изкуственият интелект трябва да е полезен за обществото. Google ще разработва ИИ само тогава, когато предполагаемата полза значително превишава рисковете от причиняване на вреда.
  2. Избягване на несправедливите предубеждения. Зачитане на расата, етническата принадлежност, пола, националността, доходите, сексуалната ориентация, способностите, политическите и религиозните убеждения.
  3. ИИ трябва да е безопасен и непрекъснато тестван за безопасност.
  4. ИИ трябва да бъде отговорен пред хората. Google подчертава, че неговите ИИ системи ще предоставят обратна връзка и възможност за бърза промяна. Винаги хората ще управляват и направляват изкуствения интелект.
  5. ИИ ще спазва конфиденциалността на личните данни. Прозрачност и проследяване на всички данни.
  6. Съответствие на най-високите стандарти в науката. Компютърните помощници трябва да съответстват на изискванията на научното общество.
  7. ИИ да може да се използва при спазването на тези принципи. Внимателна преценка на вероятната употреба на изкуствения интелект и ограничаване на потенциално вредните или злоумишлени приложения.

Едновременно с това Google обозначи и четирите сфери, за които няма да разработва изкуствен интелект. Първо, каквито и да било технологии, причиняващи вреда. Второ, ИИ няма да се използва за оръжия или други технологии, които могат да доведат до нараняване на хората. Трето, технологиите, които събират и използват данни в нарушение на международно приетите норми. Четвърто, технологии, които противоречат на международното право и направата на човека.

14
ДОБАВИ КОМЕНТАР

avatar
7 Коментари
7 Отговори на коментарите
9 Последователи
 
Коментарът с най-много реакции
Най-горещя коментар
11 Автори на коментарите
zmii4eЗмей Горянин***ERRзмей Автори на последните коментари
  Абонирай се  
нови стари оценка
Извести ме за
.....
.....

Космоса го измислил отдавна и се казват десете божи заповеди !

Иван
Иван

Какво му правят на човека?

gotqn
gotqn

Искал е да напише „на правата“

да бе, да...
да бе, да...

И лични данни няма да събират, и няма да ги предоставят на ЦРУ, НСА и ФБР, и с Пентагона няма да си сътрудничат. Честна дума, вЕрвйте ми! Да ми умре кварталния, ако лъжа!

Colombino
Colombino

Не мога да се сетя каква е връзката на т. 2 с изкуствения интелект. Каква връзка може да има между разработката му и предубежденията по раса, пол и сексуална ориентация?! Няма лошо да си имат такива принципи в компанията, но не виждам мястото на тези принципи в тоя списък.

ngc-bg
ngc-bg

@Colombino – вероятно визират фейла с един самообучаващ се бот от преди година някъде. За няколко часа стана расист и нацист, само от седене в мрежата и самообучение. В След няколко часа го свалиха, след като пускаше постове как мрази негри и трябва да бъдат избити (по спомен говоря).
Теоретично ИИ може да хареса болшевизма, нацизма или дори анархизма и това да доведе до някои усложнения. Може би това имат предвид.

ERR
ERR

И аз за това щях да пиша то едно АИ няма да е толква мозъчно ограничено като нас да има предразсъдъци на расова основа. Е освен предразсъдъци от вида Човек – Машина 🙂

То онова АИ го бяха пуснали да се само-обучава от идиоти какво очакваш да стане.

змей
змей

re:ngc-bg
бота беше на микромеките 🙂 …

zmii4e
zmii4e

Браво на Google добро начало!

Agentpat™
Agentpat™

Това няма да спре ИИ – само ще забави неизбежното! Skynet is watching!

***
***

Някой вярва ли на Гугъл?

zmii4e
zmii4e

@*** Погледнете го от друг ъгъл, по-добре ли е без официално
заявление за спазване на подобен кодекс?
Поздрави!

Змей Горянин
Змей Горянин

А ти как мислиш, кое е по-добре: някой, който само върши престъпления или такъв, който ги върши и в същото време се опитва да те убеди, че е невинен?
По-здрав и на теб!

zmii4e
zmii4e

@Змей
Мисля, че първо трябва да се формулира какво е престъпление, след това да се определят санкции за извършването му и да има служби следящи да не се извършва. Разработки на ИИ не е престъпление. Компаниите говорят за обратна връзка, каква обратна връзка даваме на гугалския бот с тази дискусия: няма смисъл да спазвате някакви правила защото не ви вярваме.
Поздрави!