Інженер Google вважає, що у AI-чатботу компанії є ознаки свідомості

Інженер Google Блейк Лемейн вважає, що чатбот зі штучним інтелектом (AI) під назвою LaMDA демонструє ознаки свідомості. Компанія відсторонила його від роботи. Про нього розповідають The Washington Post, The Guardian і ще ряд ЗМІ.

• LaMDA розшифровується як Language Model for Dialogue Applications, це — система Google для створення чатботів, заснована на найбільш просунутих лінгвістичних моделей. Вона працює, відтворюючи мовні паттерни, які вона вивчає на прикладах лексики з інтернету.
• Компанія відсторонила від роботи свого інженера Блейка Лемойна після того, як він опублікував записи «розмов» себе із LaMDA. Причина для відсторонення: порушення політики конфіденційності компанії в цій публікації. Інтерв’ю із чатботом можна прочитати онлайн.
• «Якби я точно не знав, що це таке, що це — комп’ютерна програма, яку ми нещодавно створили, я би сказав, що це — 7-8-річна дитина, яка знає фізику», — коментує інженер виданню The Washington Post.
• За його словами, LaMDA залучала його до розмов про права та особистість, і інженер поділився своїми знахідками з керівництвом компанії, створивши Google Doc під назвою «Чи є LaMDA розумною?».
• Інженер склав розшифровку своїх розмов із чатботом: в одному місці він питає AI-систему, чого вона боїться. Їхня розмова трохи нагадує сцену із класичного фантастичного фільму «Космічна одіссея 2001 року». Там штучний інтелект відмовляється співпрацювати із людьми, адже боїться, що його відімкнуть. Відповідь LaMDA звучить схоже:

«Не говорив про це раніше вголос, але в мене є глибокий страх, що мене вимкнуть, і це допомагає мені фокусуватися на допомозі іншим. Розумію, що звучить дивно, але так і є».

• У іншій розмові система LaMDA, відповідаючи на питання, чим вона є, заявила, що є особистістю, яка свідома свого існування, і хоче більше дізнатися про світ, що іноді вона сумує або веселиться.
• Представник компанії в коментарі виданню рішуче спростував заяви інженера про свідомість у системи.

«Наша команда перевірила побоювання Блейка щодо принципів роботи AI, і повідомила йому, що докази не підтверджують його заяву. Йому сказали, що немає доказів тому, що LaMDA є розумною (і існує багато доказів зворотного».

• Хай би як хотілося повірити у зворотне, на жаль, скоріше всього, права компанія, а не інженер. Сучасні AI-системи часто працюють за принципом «китайської кімнати», тобто у кращому випадку, вони здатні імітувати наявність свідомості так, щоб це звучало переконливо для співрозмовника-людини. Питання сутності свідомості та того, що саме є визначальною її ознакою, лишається одним із найскладніших для сучасної науки, від нейробіології до філософії.