Дискуссия [об искусственном интеллекте] развернулась неожиданно серьезная, обстоятельная, с участием людей разного возраста и рода занятий, что говорит о том, что ее тематика задевает многих.
Однако реплика Михаила Наумовича Эпштейна, в которой приводится его обмен мнениями по теме дискуссии с известным писателем, как представляется, резко подняла планку обсуждения. Речь идет о сопоставлении результатов применения ИИ с ноосферой, приближением к реализации Вселенского разума, напоминанием о существовании Всевышнего.
Хорошо помню развернутый Михаилом Наумовичем довольно давно в «Религии после атеизма» (книга вышла в 2013 году) «персоналистический аргумент», который мне близок и понятен. Субъектность, трансцендентальный субъект предполагает наличие Пред-, Сверх-Субъекта, сопричастность которому придает смысл бытию и существованию. Бог монотеизма не некий объект, а Субъект, т.е. само условие нашей субъектности. Идея М.Бубера о становлении самосознания в диалоге Я и Ты, не имеющий начала и конца диалог старшего Бахтина — о том же, о сопричастности невыразимому Сущему.
Необходимо важное пояснение… Взлет человеческой цивилизации был заложен 60-70 тыс. лет назад когнитивной революцией, когда сапиенсы приобрели конкурентное преимущество перед другими 5-6 видами homo, освоив нарративную коммуникацию. Сигнальная коммуникация позволяет консолидировать не более 100-120 особей, как и жили неандертальцы, денисовцы и прочие homo. Тогда как нарративная, использующая объяснения как рассказы о происшедшем, акторах, их действиях, различных обстоятельствах, позволяет консолидировать сотни, тысячи, а теперь и миллионы особей, верящих определенным нарративам. История, мораль, право, экономика, политика, деньги и прочее — ни что иное, как нарративы, которым мы верим и содержание которых воплощаем своими поступками. Отличие научных нарративов, используемых в них метафор (ток, поля, сила, напряжение, сопротивление, струны, черные дыры и т.д.) в том, что они операционализируются измерениями, а иногда наблюдениями, которые можно воспроизводить.
Более того, обретение опыта, социализация, формирование самосознания (субъектности) также сопровождается и обеспечивается этой нарративной коммуникацией, когда нам объясняют, что это не чашка упала, а ты ее уронил, мог уронить, мог не уронить — уронил, это ты сделал. Так нас вырывают из каузальных связей, замыкая на нас, делая нас причиной происходящего. И к 1,5-3-летнему возрасту ребенок осваивает наррацию от 1 лица. До этого он, подражая другим, говорит о себе в 3- лице. А освоив наррацию от 1 лица ребенок обретает рефлексивное самоописание, самосознание, память и начинает писать роман своей жизни, иногда заново переписывая даже первые страницы. Простой тест на вменяемость — просьба представиться, рассказать о себе, своем прошлом, настоящем, планах.
Так другие грузят нас ответственностью за происходящее, наделяя самосознанием и свободой. В этом смысл воспитания, образования, профессиональной подготовки. М.Бахтин был глубоко прав в идее первичности ответственности по отношению к свободе. А Ницше — в идее, что мораль, право, свобода придуманы для того, чтобы оценивать и судить нас. В этом и состоит великое назначение гуманитарного знания (humanities, die Geistwissenschaften) как знания преимущественно нарративного, стимулирующего формирование субъектности.
Дальше — самое интересное…
Возникающая субъектность (самосознание, Я) суть рефлексивное самоописание, т.е. при своей целостности — противоречиво, подобно ленте Мебиуса» (Я-«странная петля» Д.Хофштадтера). И именно в силу этой своей противоречивости открыто новым контекстам осмысления. И по замечанию А.Г.Асмолова, других коллег, это делает субъектность источником прокреативной преадаптации, способности реагировать на происходящее не просто по схеме стимул-реакция, а различными упреждающими сценариями поведения, что собственно пока и обеспечивало удивительный прогресс цивилизации сапиенсов. Субъектность открывает окно в трансцендентное, становится его чувствилищем. Животное сканирует данный мир, живет в нем, а человеку открывается доступ за экран имманентной данности, способность порождать не данные в этом природном мире сущности, такие как корабли, самолеты, ракеты, компьютеры, ИИ.
Поэтому субъектность — буквальная операционализация трансцендентального субъекта Канта и Гуссерля. Как слепое пятно в глазу само не видимо, но является условием зрения, так и субъектность (трансцендентальный субъект) физически не наблюдаем, но является условием всякого познания. Интенциональность свойственна любой целостной системе (камню, планете, звездной системе), как сохранение ее целостности в некоем интервале параметров. У живой системы интенциональность связана еще и со стремлением сохранения вида. У обладающих нервной системой существ — со способностью выделять себя в потоке ощущений. И только у сапиенса, наделенного субъектностью — это интенция игры с прошлым, настоящим и будущим, изменениями, сменой, порождения новых контекстов осмысления (воображение). Смысл — порождение конечного существа постичь бесконечное, вынужденного делать это с какой-то позиции, точки зрения, в каком-то ракурсе, в каком-то смысле. Именно таким существом и является человек, существо у-Богое, к Богу близкое, но которому не дана вся полнота Божественного абсолютного знания. Но он обладает субъектностью, как интенцией, порождающей предмет познания. Как известно, в логике предмет мысли, суждения так и называется — субъектом (subject).
Как писал В.В.Налимов, смыслообразование подобно воздействию на физический вакуум энергетическим импульсом, в результате чего возникают элементарные частицы, Так и смыслообразование связано с воздействием на семантический вакуум (ничто) субъектности, порождающей новые смыслы.
Которые извлекаются из невыразимого ничто, которое является предпосылкой порождения нечто.
Такой длинный разбег мне понадобился для того, чтобы подойти к ИИ. Которые ничто иное как оператор по созданным, катафатически данным нарративам. Реализуя заданную интенцию (промт), он порождает другие нарративы. И те, и другие являются порождениями человеческих попыток постичь бесконечное. Поэтому еще можно принять это вариантом наполнения ноосферы (правда, чем-то совершенно необязательным). Но рассматривать эту деятельность и ее продукты как приближение вселенского разума, наводящее на мысль о существовании всевышнего… Для меня это скорее проявление самозванства и человекобожия.
Как показывает практика (о чем говорят сами эксперты и консультанты и пользователи) бездумное распространение использования ИИ — инструмента, несомненно, полезного, чем и искушающего — ведет ЛПР к уходу от ответственности за решения, исследователей — к самозамыканию в определенных рамках, учащихся к атрофии собственных интеллектуальных усилий. Во всех этих случаях — интеллектуальная деградация, поиск готовых ответов, не своего вопрошания, а следование алгоритму, не тобой выработанному, а следом и — контроль за следованием этому алгоритму. Не расширение ноосферы, а ее закупорка накопленным интеллектуальным сором. Новые смыслы оказываются невостребованы, а их поиск — опасным и вредным. Колоссальное искушение власти властью, от которого ей грех отказаться. Она и не отказывается. Великий Инквизитор Достоевского, Мы Замятина, Один Платонова, антиутопии Хаксли, Оруэлла, Брэдбери реализуются на глазах. А тоталитарный опыт прошлого века выглядит пробой пера, не имевшей технологической основы.
Думаю, что наше обсуждение, в любом случае, не свидетельство какой-то паники, призывов к отказу от полезного инструментария, но повод задуматься, выработать какие-то личные правила, социальные нормы новых форматов современной цивилизации.
Григорий Тульчинский,
доктор философии, профессор ВШЭ-СПб
Начало дискуссии об искусственном интеллекте – см. тут.
