Преди появата на съзнание в AI е по-добре да се подготвите предварително

Развитието на изкуствения интелект (AI) повдига въпроси за етиката и възможността за появата в него на съзнание, принуждавайки учените и професионалистите да се подготвят за потенциалните предизвикателства на този сценарий.

Футуристи и философи, по-специално Анил Сет от университета в Съсекс, подчертават необходимостта да се вземе предвид „благосъстоянието на ИИ“ в бъдещите разработки. Както отбелязва той: „Проблемът с чудовището на Франкенщайн не е, че то оживя, а че се оказа интелигентно и можеше да чувства.“ Въпреки че вероятността от появата на съзнателен ИИ остава ниска, неговите потенциални последици са толкова значителни, че човечеството трябва предварително да разработи протоколи за оценка и управление.

Една от стъпките в тази посока е създаването на критерии за определяне на интелигентността на AI. Авторите на съответния доклад подчертават, че грешките в оценката могат да имат последствия както за хората, така и за самата технология. Прекомерното разпределяне на ресурси за хипотетично съзнателен AI може да отвлече вниманието от други важни въпроси, като сигурността и контролирането на въздействието на технологиите върху обществото.

Въпреки това общественият интерес към темата нараства. Anthropic, който е разработчик на големи езикови модели, беше първият, който създаде позицията специалист по благосъстоянието на AI. В същото време международната политика, по-специално документите на ООН, все още не обръща внимание на този проблем, въпреки призивите на учените.

Противниците на идеята за AI-съзнание, като Марк Витман, го смятат за невъзможно поради разликите между организмите и машините. При живите същества структурата и функцията са неразривно свързани и динамични, докато при компютрите хардуерът и софтуерът са отделни. Въпреки това дискусиите продължават, призовавайки бъдещите възможни сценарии да бъдат разгледани с цялата сериозност.