«Правила поведения» для ИИ
Петр Селинов
Искусственный интеллект ворвался в нашу жизнь как ураган. Теперь его влияние распространяется повсюду: в общественной жизни и государственном управлении, в бизнесе и культуре, в науке, промышленности и медицине. Дошло до того, что искусственный интеллект (ИИ) проник и в религиозную жизнь человека, его общение с Богом. Но как научить ИИ соблюдать этические нормы, как научить искусственный мозг «правилам поведения в обществе»?
В рамках Международных Рождественских образовательных чтений 26 января 2026 года в Зале церковных соборов Храма Христа Спасителя состоялось подписание соглашения о создании Консультативного совета по этике в сфере искусственного интеллекта. Совет призван сформировать этическое взаимодействие светского сообщества, в частности, IT-разработчиков с представителями традиционных религий России (Православия, ислама и иудаизма).
Накануне подписания соглашения в пресс-центре медиагруппы «Россия сегодня» состоялась посвященная этому событию пресс-конференция. В ней приняли участие: секретарь Синодальной комиссии по биоэтике протоиерей Александр Абрамов, заместитель председателя Синодального отдела по взаимоотношениям Церкви с обществом и СМИ Вахтанг Кипшидзе, руководитель Национальной комиссии по этике ИИ Андрей Незнамов, председатель Духовного собрания мусульман России муфтий Альбир Крганов и руководитель департамента Федерации еврейских общин России по взаимодействию с правоохранительными учреждениями раввин Аарон Гуревич.
Протоиерей Александр Абрамов, открывая пресс-конференцию, вспомнил о некоем проекте одной художницы в сфере искусственного интеллекта, которая, используя различные незащищенные точки подключения, микрофоны и камеры, загружала и транслировала через них отрывки из священных текстов: Ветхого и Нового Заветов, Корана, Торы. Как заметил отец Александр, подобный подход опасен тем, что любой, плохо разбирающийся в вопросах религии, человек может превратить священные тексты в псевдосвященные, а использование технологий ИИ может не прояснять смысл слов Творца, а, напротив, затемнять его.
«Технологии искусственного интеллекта могут помогать в понимании замысла Творца, а могут, наоборот, способствовать злу, – отметил отец Александр. – Мы отрицаем самостоятельное бытие любой технологии. Мне скажут, что мы уже находимся на грани прорыва, еще чуть-чуть и искусственный разум сумеет превзойти разум человеческий. Но разум человеческий – вещь тонкая и хрупкая. Именно поэтому нам так важна площадка, где мы сможем обсуждать вопросы этики для ИИ. У людей, у разработчиков искусственного разума может быть этика, а у самого искусственного интеллекта (ИИ) ее быть не может».
Об опасности бесконтрольного использования технологий искусственного интеллекта говорил и заместитель председателя Синодального отдела по взаимоотношениям Церкви с обществом и СМИ Вахтанг Кипшидзе. Он отметил, что подобного еще не случалось в истории человечества. «Мы должны откровенно признать, что происходит дегуманизация управления, – заметил Вахтанг Владимирович. – Раньше в истории человечества человек управлял человеком, а теперь мы переходим к модели управления, когда делами людей управляют технологии».
В.В. Кипшидзе напомнил недавние слова Святейшего Патриарха Московского и всея Руси Кирилла о том, что сегодня информация генерируется с такой скоростью, что превращается в оружие более мощное, чем ядерная бомба. «В сфере этического контроля за ИИ мы не успеваем за его развитием, – подчеркнул Вахтанг Владимирович. – Раньше, чтобы оценить достижения промышленной революции и понять, что хорошо, а что плохо, у человечества было довольно много времени. А теперь мы вынуждены реагировать невероятно быстро, – счет идет на часы и минуты. И замечательно, что мы наконец вышли на подписание соглашения о Консультативном совете по этике в сфере ИИ. Это позволит нам обсуждать самые разные этические проблемы в сфере искусственного интеллекта».
Мысль о том, что люди не поспевают за развитием искусственного интеллекта, развил руководитель Национальной комиссии по этике ИИ Андрей Незнамов. «Даже законы, принимаемые людьми, не успевают за внедрением и развитием ИИ, – отметил он. – Закон, принятый в январе, в марте придется уже менять и перерабатывать. Искусственный интеллект внедряется очень быстро. Поэтому важно выстраивать диалог между разными сторонами: разработчиками, потребителями, государственной властью. В смысле выстраивания диалога Россия занимает лидирующее положение».
Андрей Владимирович подчеркнул важность диалога между разработчиками IT-технологий и представителями духовенства, которые совместно смогут обсудить вопросы этического использования ИИ в жизни человека. При этом Андрей Незнамов честно признал, что очень сложно найти правильное регулирование в сфере новых технологий ИИ, потому что людям требуется много времени для осознания их возможностей. И трудно решить, что этично делать, используя искусственный интеллект, а что – неэтично.
Разговор продолжил председатель Духовного собрания мусульман России муфтий Альбир Крганов, который подчеркнул, что, с одной стороны, нельзя отказываться от возможностей, которые дают современные технологии, но, с другой стороны, надо понять, как человеку адаптироваться к ним. «Искусственный интеллект способен за короткий срок сгенерировать миллионы статей, но какой мозг способен это понять? – задался вопросом муфтий Альбир. – В итоге мы придем к тому, что человек окажется беспомощным без ИИ. Роботы и искусственный интеллект будут делать сначала всё для людей, а потом – вместо людей. И в какой-то момент могут стать помехой сами люди».
А дальше муфтий Альбир Крганов предположил, какие могут сложиться ситуации с искусственным интеллектом, которые потребуют рассмотрения в Консультативном совете по этике: «К чему может привести неэтичное использование искусственного разума? К тому, что человек может с его помощью создать себе искусственного «муфтия», или «патриарха», или «раввина» и с ним общаться, ему исповедоваться. Или появятся роботы с лицами и голосами наших умерших родственников, с которыми человек будет общаться как с живыми. Разве это этично? А это всё грядет! Увлекаясь новыми технологиями, нам важно не забыть про нашу бессмертную душу!»
С беспокойством о грядущем высказался и раввин Аарон Гуревич. Он предположил, что впереди нас ждет время цифровых двойников, и что это время может наступить очень скоро – быстрее, чем мы ожидаем. При этом он порадовался тому, что создаваемый Совет будет включать в себя как создателей искусственного интеллекта, так и богословов, представляющих разные религиозные верования и которые смогут дать нравственную оценку результатам деятельности ИИ. «Представьте себе такую ситуацию, когда какой-нибудь верующий в силу своей неопытности или застенчивости побоится подойти к живому пастырю и создаст для себя искусственного, – заметил раввин Аарон Гуревич. – В итоге он станет поклоняться тому, что сгенерировал для него искусственный разум. Что это будет? Сотворение кумира! А это является страшным грехом и отходом от Бога. Здесь уже сравнивали ИИ с ядерным оружием. Мне кажется, что использование искусственного интеллекта представляет собой большую опасность, чем ядерная бомба, потому что ИИ проникает во все сферы, в том числе и в сферу Богопознания».
Чуть позже пришло время вопросов, которые задавали и ведущая, и журналисты в зале. Одним из первых вопросов прозвучал такой: «Насколько опасно для веры, если искусственный интеллект создаст искусственного священника, муфтия или раввина?». На него ответил секретарь Синодальной комиссии по биоэтике протоиерей Александр Абрамов: «В принципе, всё можно чем-то заменить. Можно есть целлофан и представлять себе, что ты ешь баранину. Но человеческий мир должен оставаться неприкосновенным в своем ядре. О том, чтобы заменить священника искусственно сгенерированным образом, можно представить себе лишь в отвратительном сне антиутопии. Обращение к искусственным помощникам в виде сгенерированных искусственным разумом «священникам» и «раввинам» – это удел трусов и неудачников. Человек существует в мире, созданном Богом. И религия – это высшая сфера, созданная Богом. Потому нельзя подходить к религии как к услуге. В этом случае одно извращение порождает другое…».
«А как вы считаете, может ли появиться душа у искусственного интеллекта? Ведь он же постоянно обучается. Может ли появиться субъектность у машины?» – спросила сотрудница «Россия сегодня», которая модерировала эту пресс-конференцию.
«Такую ситуацию я не могу представить себе ни при каких обстоятельствах, – ответил священник Александр. – Душа дана Богом человеку и только человеку. Думать о том, что у ИИ может быть душа – это самообман или заблуждение».
«Я бы добавил, что подобная ситуация стала бы большим нравственным испытанием, – заметил муфтий Альбир Крганов. – У человека есть отец, который его родил, и есть духовный наставник, который его направляет. Вы готовы создать себе искусственного отца? А ведь очень скоро мы, возможно, столкнемся с тем, что часть людей будут предлагать дать жизнь машине».
«В России всегда человек должен быть во главе угла, – подчеркнул руководитель Национальной комиссии по этике ИИ Андрей Незнамов. – А искусственный интеллект, как и любая другая технология, – это всего лишь инструмент в руках человека. Наделить ИИ субъектностью? Оживить машину? Об этом в России речь не ведется».
Один из сидевших в зале журналистов спросил о том, будет ли контролироваться использование образов умерших людей: «Видел в Интернете ролик с протоиереем Николаем Гурьянов. На нем батюшка сидел на крылечке, махал зрителям рукой и был весьма оживленным. Это же неэтично! Что планируется делать с подобными роликами, созданными ИИ?»
«Конечно, это нарушение этики, – согласился протоиерей Александр Абрамов. – Разве человек, который уже умер, давал при жизни свое согласие на свое изображение? Или его родственники давали согласие на подобное? Нет, конечно же! Но с появлением новых технологий, построенных на искусственном интеллекте, возникает целый бизнес. Захотели увидеть свою живую маму, чтобы она своим голосом с вами говорила, советовала, хвалила вас – пожалуйста! Происходит искусственная подмена естественного процесса. Насколько это этично, бизнесмены не задумываются».
«В прошлом году сообщество IT-разработчиков подробно разбирало ответы на все главные вопросы, связанные с искусственным интеллектом, – добавил Андрей Незнамов. – Один из них как раз касался цифровой имитации живого человека. Поэтому все действия в этом направлении регулируются законодательством, и для подобных «оживляющих» картинок нужно либо согласие самого человека, либо его родственников. Вот почему так важен диалог разработчиков и потребителей».
«Нам нужна цифровая гигиена, – поддержал Андрея Владимировича муфтий Альбир Крганов. – И раз в этом направлении может двигаться бизнес, значит и нам надо к этому готовиться. И давать соответствующие уроки детям».
И, наконец, прозвучал последний вопрос – «А если рассматривать искусственный разум как платформу для создания религиозных текстов. Это нарушит этические правила?»
«У нас уже есть онлайн-платформы, где собраны все священные и святоотеческие тексты, – заметил отец Александр. – Но все почему-то хотят изобрести какого-то искусственного «батюшку». В свое время обсуждался вопрос можно ли создать «священнослужителя», обучив некий чат-бот отвечать на религиозные вопросы. И даже проводился такой эксперимент: был разработан чат-бот, он получил название «отец Джастин». И вы знаете, что получилось в итоге? На этот чат-бот была компьютерная атака с использованием ненормативной лексики, и «отец Джастин» стал отвечать на все вопросы с помощью ненормативной лексики. Так что ценность таких проектов равна нулю. Это – игра, и как всякая игра она рано или поздно заканчивается. В одном из писем меня спрашивали, как относиться к православным текстам, которые будут написаны искусственным разумом? Такие тексты не имеют никакого отношения к Православию. Они не имеют никакого отношения ни к искусству, ни к творчеству. Я думаю, это некая болезнь, которая рано или поздно пройдет».
РУКА ДАЮЩЕГО НЕ ОСКУДЕВАЕТ!
