Малко преди Сам Алтман да бъде уволнен като главен изпълнителен директор на OpenAI през миналата седмица, (в момента той отново е на поста си) няколко от изследователите на компанията изпращат писмо до борда на директорите, в което предупреждават за значителен пробив в развитието на изкуствения интелект – откритие, което според тях може да застраши човечеството, съобщава Ройтерс, позовавайки се на свои източници.
Писмото е един от факторите в дългия списък с претенции на борда на директорите към ръководителя на компанията Сам Алтман. Документът се отнася за проектът Q* – представителите на OpenAI не дават официални коментари за него, но Мира Мурати, която известно време заемаше поста главен изпълнителен директор на компанията в отсъствието на Алтман написа съобщение, адресирано до служителите, в което признава съществуването на този проект и предупреждава за медийния интерес към него.
Някои служители на OpenAI смятат, че проектът Q* може да бъде пробив в разработването на силен изкуствен интелект (ИИ), способен да изпълнява задачи също толкова добре, колкото и хората. С помощта на мощни изчислителни ресурси новият модел се е научил да решава математически задачи – засега на нивото на ученик от началното училище, но това постижение кара изследователите да бъдат оптимисти за бъдещия успех на Q*.
В писмото си до борда изследователите от OpenAI отбелязват мощта на ИИ и потенциалната заплаха за човечеството, въпреки че не уточняват какви аспекти на сигурността биха могли да разглеждат. Експертите по информационни технологии отдавна обсъждат високоинтелигентните машини, които например биха могли да заключат, че е в техен интерес да унищожат човечеството.
Авторите на писмото изтъкват работата на звено, създадено чрез обединяване на екипите Code Gen и Math Gen – учените в това звено проучват начини за оптимизиране на съществуващите модели на ИИ, за да подобрят качеството на разсъжденията на системите и да насочат потенциала им към научна работа.
Според учените, математиката е в основата на развитието на технологията. Сега ИИ успешно пише текстове и превежда на различни езици, като статистически предсказва всяка следваща дума, но отговорите му на един и същ въпрос могат да варират в широки граници. Постигането на успех в математиката, където може да има само един верен отговор предполага, че ИИ има значителни способности за разсъждаване като тези при хората. Тези способности биха могли да се приложат в перспективни изследвания на ИИ. За разлика от калкулатора, който извършва ограничен брой операции, ИИ може да обобщава, да се учи и да разбира.
Алтман превърна ChatGPT в един от най-търсените софтуерни продукти и е привлече от Microsoft финансовите и изчислителните ресурси, необходими за работа по изграждането на AGI (изкуствен общ интелект). По време на речта си на срещата на върха на АПЕК миналата седмица той заяви пред световните лидери, че големият пробив е съвсем близо.
„Четири пъти в историята на OpenAI, последният от които беше преди не повече от две седмици имах привилегията да бъда в стая, в която сякаш вдигнахме завесата на невежеството и изтласкахме напред границата на откритията, а да го направя е професионалната чест на живота ми.“
сподели Алтман
На следващия ден борда на директорите го уволнява.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
