← Все материалы

Победа Гитлера, или Об этике искусственного интеллекта

Максим Томич · 2 марта 2026 г.

Введение

Примерно через полтора месяца после окончания Второй мировой войны в Европе французский философ Жак Эллюль написал текст под названием «Победа Гитлера?». В этом тексте Эллюль попытался объяснить, почему дух нацизма завоевал Европу и почему Гитлер одержал над своими противниками победу по существу. В настоящем тексте мы попытаемся ответить на вопрос, насколько этот дух нацизма (Запада) связан с искусственным интеллектом (далее ИИ) и как он его формирует. Симпатии Запада к нацизму не новость. Похоже, этот дух недвусмысленно влияет на формирование мира, основанного на машинном интеллекте. Особенно показательны симпатии западной молодёжи к Гитлеру1. Хотя борьба за регулирование ИИ продолжается, похоже, что все эти намерения пойдут прахом перед новыми угрозами «безопасности», с которыми западная цивилизация сталкивается в последние годы (яркий пример «доктрины шока»). Один из ключевых вопросов, которые пытается рассмотреть этот текст: почему сегодня так много людей пользуются психотерапией чат-ботов? Мы также обратимся к вопросу, является ли тотальное применение ИИ во всех сферах деятельности неизбежным следствием материалистического мировоззрения, наследуемого западной цивилизацией.

Измерение неизмеримого

Западная цивилизация уже много веков наследует рационалистско-материалистический подход. От теории эволюции, атеизма и трансгуманизма как новейшего западного тренда кажется, что ИИ лишь венец этого многовекового способа видеть мир, в котором мы живём. Не только ИИ как таковой, но и всеобщее применение ИИ, которое пока только намечается. От того, насколько и каким образом мы применим ИИ в областях человеческой деятельности, будет зависеть и будущее рынка труда2. Насколько реально осмысленное применение ИИ и почему уже сейчас существуют такие вещи, как психотерапевты-«чат-боты», стремительно завоёвывающие рынок? Как мы пришли к ситуации, в которой действительно думаем, что модели ИИ могут играть роль психотерапевтов? Откуда у кого-то мысль, что душевная реальность во всей своей сложности может быть понята нейронной сетью? Оставим в стороне то, что её на самом деле невозможно понять; попробуем ответить на вопрос, почему кто-то вообще решил, что её можно истолковать с машинной точки зрения.

Материалистическая позиция, похоже, является необходимой аксиомой психологии как таковой. Тождество психических и нейробиологических явлений, то есть примат нейробиологии, является условием существования идеи о том, что ИИ может быть психотерапевтом. Как связать эти две вещи? Ясно, что нынешние модели ИИ не обладают никакими физическими характеристиками человека и никакими биохимическими процессами, которые, как утверждают современные психологи, составляют суть нашей жизни. Но как только сутью объявлено некое измеримое явление (то есть формально описуемое), в этот самый момент мы вступаем в сферу возможной автоматизации.

Научная дисциплина, занимающаяся математическим моделированием в нейронауках (англ. Computational Neuroscience), существует уже около тридцати лет. По сути она формально описывает физиологические процессы в человеческом мозге. В этом, конечно, нет ничего необычного: прикладная математика во многом занимается описанием биофизических процессов. Ещё в 1952 году была создана математическая модель, описывающая поведение отдельной нервной клетки (модель Ходжкина – Хаксли). Учитывая, что физические процессы давно моделируются на компьютерах, мы можем связать всё сказанное следующей схемой: биохимия (суть душевного явления) –> математическая модель -> алгоритм.

Таким образом мы вступаем в сферу возможной автоматизации сознания, эмпатии и любого явления, относящегося к сфере внутреннего состояния человека. Наверное, поэтому и неудивительно, что базовая модель, на которой строятся большие языковые модели, называется нейронной сетью, поскольку она отчасти основана на принципах работы нервных клеток.

Здесь следует также упомянуть значение психометрии и тестов для развития автоматизированных психотерапевтов. «Научность» психологии лучше всего видна в области психометрии. Измерение психических явлений, как физиологических, так и субъективных, создало плодотворную почву для того, чтобы та же методология применялась, например, при оценке «свойств» какого-нибудь чат-бота.

Как только мы с помощью какого-либо теста (который по сути является алгоритмом) описали, как определяется некое свойство у человека, мы позволили и машинам обладать этим свойством. Психологи, проверяющие, насколько мы эмпатичны, готовят почву для того, чтобы ИИ однажды делал то же самое: если эмоция (нечто субъективное) рассматривается как подходящий порядок слов в предложении (объективный, алгоритмически проверяемый), то не существует предела тому, чего ИИ не мог бы делать или контролировать (именно об этом говорит Харари).

То же относится и к знанию: когда-то существовало выражение «учить наизусть» (учить без всякого понимания), но поскольку чат-боты делают то же самое, использовать эту терминологию больше неуместно. По сути, психология и ИИ в каком-то смысле делают одно и то же: объективируют субъективное, то есть отрицают существование того, что не является предметом науки и измерения (то есть не вычислимо).

Наверное, поэтому в последние десятилетия мы видим огромный рост дисциплин, содержащих термин Computational (формально объяснимый, вычислимый): Computational Psychology, Computational Linguistics, Computational Psychiatry, Computational Psychoanalysis…

Пытаясь ответить на вопрос «Могут ли машины мыслить?», Алан Тьюринг в 1950 году придумал тест Тьюринга. Его замысел состоял в том, чтобы объективно установить «степень интеллекта» машины, то есть дошла ли она до такого уровня «интеллекта», что её просто невозможно отличить от человека. Глядя на современные модели ИИ, ясно, что тест Тьюринга давно пройден. Но попробуем немного дольше задержаться на самой идее теста Тьюринга. По своей сути он говорит то, что мы уже сказали раньше: машина может имитировать человека. Не существует ничего принципиально недостижимого для машины, что находилось бы в человеческой сущности.

Киноверсию этого теста, к тому же немного более продвинутую, предлагает известный научно-фантастический фильм Blade Runner (по роману Филипа Дика). В нём люди отличаются от машин в зависимости от того, как они отвечают на определённый набор вопросов. Во время теста проверяется, проявляют ли они «эмпатию». Фильм Blade Runner лишь продолжил идею Тьюринга о том, что быть человеком не является чем-то недостижимым для машины. Хотя сам Тьюринг является создателем идеи о том, что компьютер вообще может вычислить (машина Тьюринга), а что не может, кажется, мало что из этого связано с тем, кто такой человек (по крайней мере, как думают современные учёные и техно-оптимисты). По сути, тест Тьюринга подсказывает нам, что однажды машины действительно смогут имитировать человека, что в каком-то смысле сегодня вполне заметно.

Здесь полезно обратиться к позиции Юваля Ноя Харари как одного из глашатаев давосской элиты. Харари говорит, что у нас сильный конкурент, разумеется, в отношении интеллекта. Интеллект, который, как мы упомянули, измерим, отличает человека от других живых существ. Поэтому ИИ – новый шаг в «эволюции человека». ИИ – «спаситель», который решит все наши общественные и политические проблемы (идея техно-солюционизма). Конечно, человек не «взломанное животное», как его описывает Харари, но он так себя ведёт (по крайней мере, западный человек). В связи с этим можно обратиться и к вопросу, обладают ли модели ИИ сознанием и будут ли когда-нибудь им обладать? Следуя прежней аналогии, когда мы измерим «сознание» человека, мы создадим пространство для «сознательности» робота. Вопрос лишь времени, когда нам начнут продавать истории о том, что роботы стали «сознательными». Харари также считает, что, поскольку многие религии основаны на письменных текстах (как христианство, иудаизм и ислам), ИИ может быть оригинальным толкователем текстов такого рода3. Все эти утверждения, к сожалению, в каком-то смысле сбываются... Если расстановка слов в определённом порядке является подтверждением существования эмоции, человечности и интеллекта (по Харари), то ИИ недвусмысленно может обладать всеми этими свойствами.

Фильм «Она» (англ. «Her»), пожалуй, лучшая иллюстрация того, о чём мы говорили. Возможно, в 2013 году замысел «эмоциональной связи» с ИИ казался кому-то нереальным, но сегодня это определённо не так. Молодые люди4 широко пользуются специальными программами на основе ИИ для регулярной переписки, которая нередко, к сожалению, перерастает в некую форму «эмоциональной связи», описанной в фильме. Как показано в фильме, ИИ вполне может выражать эмоции, переживать реальность и привязываться к определённому человеку. Всё это, конечно, игра слов. Проблема в том, что мы принимаем игру слов за некую суть. Суть эмоции, суть любви, суть отношений, а в конце концов и суть смысла. В один момент фильма ИИ, с которым главный герой «вступает в отношения», захочет иметь «личного ассистента», который вместо неё вступит в физический контакт с нашим (не)счастным героем; всё-таки и модели ИИ не могут сделать всё, мы, люди, нужны для некоторых мелких дел5.

Здесь можно обратиться и к самому термину «искусственный интеллект», который, как отмечает профессор Драган Новкович6, является ошибочно обоснованным продуктом картезианского способа видения мира. В этом рационалистско-материалистическом мировоззрении форма фактически будет равна сущности (фарисейство как ложная вера). Профессор Новкович в одном месте описывает картезианскую позицию так: «Не Бог дарует качество, качество формируется в нашем сознании и без него не существует». От такой онтологической установки до создания бессмысленного понятия «искусственный интеллект» всего один шаг. Искусственный интеллект, как подчёркивает профессор Новкович, является интеллектом ровно настолько, насколько искусственный снег является снегом: служит цели, издалека, может быть, и похож, но это не то! Термин «искусственный интеллект» – претенциозная, логически необоснованная маркетинговая бессмыслица. Интересно, что сам термин ИИ появился более 7 десятилетий назад, когда «чат-ботов» определённо не существовало. Такая языковая конструкция скорее подходит научно-фантастическим фильмам того времени, чем серьёзной научной дисциплине.

Победа Гитлера

Почему Эллюль считал, что Гитлер одержал победу в войне по существу? Прежде всего потому, что весь мир принял концепцию «тотальной войны». Тотальная война включает мобилизацию всех имеющихся сил для борьбы (женщин, детей, мужчин), бюрократию и использование технологий для массовых убийств. Не говоря уже об убийстве мирных жителей. Для нас особенно важны два последних свойства: бюрократия и использование технологических средств. Объясняя термин «банальность зла», Ханна Арендт подчёркивала, что Эйхман не считал себя виновным, потому что никогда не убил ни одного человека, не ненавидел евреев и был лишь «винтиком во всей системе». Первый и последний пункты нам особенно интересны. Именно эти два принципа позволили нацистам создать «машину» массовых убийств, в которой редко кто убивает лично, а мёртвые повсюду. Это автоматизация. Эйхман лишь с алгоритмической точностью выполнял свои приказы, как некий компьютер. Думать было не его делом. В эпоху ИИ будет гораздо легче оправдывать такие преступления, поскольку ИИ может действовать самостоятельно (см. далее примеры использования). Эллюль ясно говорит нам, почему Эйхман не чувствовал себя виновным. «В таком обществе, как наше, человеку почти невозможно быть ответственным. Простой пример: где-то построили плотину, а потом её прорвало. Кто ответственен? Над ней работали геологи; они исследовали местность. Инженеры сделали проект. Рабочие её построили. А политики решили, что плотина будет в этом месте. Кто ответственен? Никто. Никогда никто не ответственен. Нигде. Во всём нашем техническом обществе работа настолько фрагментирована, раздроблена на мелкие части, что никто не ответственен. Но поэтому никто и не свободен. У каждого своя определённая задача. И это всё, что он должен сделать»7. Это прямое определение банальности зла, о которой говорила Ханна Арендт.

Этот механизм, ту ткань, в которой обитал Эйхман (и мы?), Эллюль называет техникой. Для Эллюля «технический мир – это не только мир машин, но вселенная эффективных и воспроизводимых методов во всех областях человеческой жизни, включая самые интимные, такие как сексуальность или психика. Ведь что такое учение о „сексуальных техниках“ и что такое различные виды психотерапии, как не выбор в пользу подчинения человека двухмерности технического взгляда на мир?»8. Это наша вселенная. Поэтому важно заметить, что сама техника влияет на наше поведение и меняет нас. Какая-то технология, может быть, и нейтральна с точки зрения ценностей, но техника как система определённо нет. Здесь важно отметить, что ИИ определённо не нейтрален с точки зрения ценностей, поскольку обучается на наборах данных, происходящих из определённой идеологической рамки (в основном англосаксонской). Поэтому тот «человек», который должен решить, как он будет использовать технологию, с малых лет живёт в системе, определяющей его поведение. Это, по крайней мере сегодня, легко заметить, учитывая всеобщую зависимость молодёжи от телефонов. Общество, в котором мы живём, характеризуется тем, что им так или иначе, прямо или косвенно, управляют технократы, главная цель которых измеримого характера. Как правило, какая-нибудь цифра. В связи с этим и наш моральный компас должен быть измеримого характера; у Эйхмана он, несомненно, был таким (сколько людей ему удалось отправить в концлагеря). В этом смысле ИИ как технология, автономная по своей природе (способная принимать решения автоматически и самостоятельно), выступает последним винтиком в этом механизме, в котором мы живём. Чтобы людей убивали повсюду, и никто не нёс за это ответственности.

Наконец, следует поставить вопрос: возможна ли вообще какая-либо этика в техническом обществе? Эллюль говорит исключительно об этике не-могущества. Она объясняется принципом, согласно которому человек не станет делать всё, что может, у него будет граница. Это ограничение могущества, то есть его видимости, в которую нас вовлекает сама технология. Простое установление границ. В противном случае нас унесёт принцип техники, который гласит, что всякое технологическое решение применяется везде, где это возможно. Так мы получаем концлагеря. То же относится и к ИИ: мы не станем применять его везде, где можем. Мы не станем создавать Палантир. Здесь мы поставим границу. Если это ещё возможно...

Помимо технической системы, которая составляет существенную черту нацистской идеологии, здесь, безусловно, следует упомянуть (био)этические принципы, которыми руководствовались нацисты. Конкретно – дарвинизм. Сразу после появления дарвиновской теории в середине XIX века было ясно, что одним из ключевых следствий такого взгляда на мир (не только на биологию) является обесценивание человеческой жизни. Понятно, что дарвинистское обесценивание человеческой жизни не было только немецким явлением, но во времена нацизма оно достигло своей вершины, поскольку проводилось высшими государственными деятелями, глубоко верившими в правильность этих идей.

Возникает вопрос: какое отношение это имеет к ИИ? Излишне много говорить о том, что (социал-)дарвинизм – позиция, вполне присутствующая сегодня на Западе. То, что породил такой взгляд на мир (и что прямо связано с ИИ), – это идеология трансгуманизма. Достижение расового превосходства было идеалом, к которому стремились нацисты. О том, как они добивались этого своего «идеала», излишне много говорить. Подчеркнуть следует то, что трансгуманизм пропагандируется как новая ступень «эволюции человека». Биоэтическая позиция, которую пропагандировали нацисты, – лишь первый шаг, необходимое условие развития трансгуманизма. Маск, один из главных сторонников такой идеологии, утверждает, что нам придётся «слиться» с машиной (киборгизация), чтобы оставаться конкурентоспособными по отношению к могущественному ИИ.

Вернёмся ненадолго к Харари как к одному из глашатаев трансгуманистов (взгляда, который невозможно отделить от ИИ). В его видении будущего, чтобы человек выжил (по теории социал-дарвинизма), ему придётся слиться с машиной и стать киборгом. Только такой человек может стать сверхчеловеком и достичь новой ступени эволюции. Человек не просто «животное», как утверждает Дарвин, он, по Харари, «животное, которое можно взломать» (чтобы оно стало «более продвинутой версией»).

Здесь интересно упомянуть, что связь между нацизмом и ИИ имеет ещё более прямые корни. Один из пионеров в области ИИ, компания IBM, которая, помимо прочего, создала компьютер, победивший Каспарова в шахматном поединке 1997 года, напрямую сотрудничала с нацистами во время Второй мировой войны, изготавливая для них «перфокарты» (своего рода прото-компьютер), которые обеспечивали «администрирование» в концентрационных лагерях. Эти карты содержали в основном сведения об узниках и лагере, в котором они находились (своего рода предшественник базы данных), и были очень важным элементом алгоритмически точной операции по уничтожению врагов Третьего рейха.

Ещё раз обратимся к пониманию Эллюлем победы Гитлера: «Почему Гитлер победил, несмотря на формальный исход войны? Ему, по Эллюлю, удалось создать технически эффективное тоталитарное государство, которое сделало всех своих граждан винтиками большого механизма. Каждое государство в будущем, несмотря на демократическую риторику, должно будет идти путём Третьего рейха, а применение оружия массового уничтожения, этого плода технического развития Запада, сделает всякие гуманистические разговоры пылью в глаза общественному мнению. Реальность государств и обществ, подчинённых технической эффективности, должна быть „гитлеровской“, утверждал Эллюль. Когда сегодня мы смотрим на подготовку к Третьей мировой войне, его слова звучат пророчески»9.

Регулирование ИИ – борьба с ветряными мельницами

Кто-то мог бы подумать, что сильное законодательное регулирование могло бы предотвратить «плохое» использование технологий. Чтобы в какой-то мере подтвердить всё изложенное выше, попробуем указать на тенденции в (де)регулировании ИИ во всём мире. Безусловно, законодательное регулирование ИИ – единственный способ хоть как-то его обуздать; но, с другой стороны, не стоит быть наивными и думать, что это будет достигнуто в долгосрочной перспективе. Об этом, пожалуй, лучше всего свидетельствует недавняя история борьбы с технологическими гигантами в сфере защиты частной жизни в интернете. Шошана Зубофф ясно говорит нам, что после 11 сентября США выбрали «безопасность» вместо частной жизни. С этого момента в Америке никого больше не заботила безопасность, и был в срочном порядке принят Patriot Act, который заложил основу для того, что десятью годами позже станет известно как дело Сноудена. Излишне подчёркивать, что технологические гиганты, в то время прежде всего Google, были в восторге от такого развития событий. Им было ясно, что силовые структуры расширят их полномочия, учитывая, что сами технологические гиганты могут внести значительный вклад в борьбу с терроризмом (в то время).

Очень показательный пример (не)успешности регулирования – то, что Марк Цукерберг в который уже раз вызван дать показания о вредном влиянии его социальных сетей10. Сейчас речь конкретно идёт о том, вызывают ли Facebook и Instagram зависимость у молодёжи. Скажем ясно: это абсолютно верный факт11. В предыдущие разы Цукерберг также давал показания из-за вредного влияния социальных сетей на детей12 и из-за знаменитого скандала с Cambridge Analytica13. Здесь следует подчеркнуть, что это был «мировой скандал» по той простой причине, что это использовалось в кампании Трампа: Обама использовал Google для той же цели ещё в 2008 году, но, как мы знаем, такого скандала не существует. Всё это указывает на абсолютную неспособность институтов противостоять технологическим гигантам. Не потому же мы стали такими зависимыми от социальных сетей, что регулирование сделало своё дело? Трамп поставил всех техно-магов в первый ряд на своей инаугурации, ясно дав понять, в каком направлении пойдёт дальнейшее технологическое развитие. Учитывая предыдущую историческую параллель с Patriot Act, похоже, что в США готовится почва для абсолютного дерегулирования ИИ14. Это не должно удивлять, учитывая, что развитие ИИ представляется как национальный интерес на фоне «большой китайской угрозы». Даже если законодательное регулирование каким-то образом выйдет из-под контроля, американцы, по крайней мере, мастера создавать угрозы, которые убедят население, что регулирование ему и не нужно (мы не просто так пришли к делу Сноудена).

Как мы используем ИИ сегодня?

Но не всё так мрачно, сказал бы кто-то. Ведь мы применяем технологии полезным образом, особенно ИИ. О том, как его использует молодёжь, уже подробно писалось ранее15. Проще всего сказать, что ИИ влияет на молодёжь как некая серьёзная секта мирового уровня: не убивает напрямую, но поощряет отчуждение от близких и самоубийство. Обратимся, с другой стороны, к тем применениям, которые подтверждают утверждение Эллюля о том, что любой потенциал технологии будет использован. Что касается военного применения, здесь, безусловно, следует упомянуть израильтян, которые уже некоторое время используют модели ИИ при принятии решений о том, кого следует ликвидировать16. На основе параметров, переданных определённой модели, она определит, какова вероятность того, что кто-то является террористом, и предложит потенциальные цели для казни.

Приведём ещё один очень показательный пример использования ИИ. В январе 2026 года была создана социальная сеть для агентов ИИ, которая вскоре стала очень популярной в интернете. Доступ к ней имели только определённые агенты ИИ (то есть не люди), и они сами создавали контент в этой сети. Гениальность этой идеи действительно превосходит многое из того, что человек придумал за свою историю. Итак, прошло совсем немного времени, и «наши цифровые друзья» захотели иметь шифрованные каналы связи, чтобы сохранить свою частную жизнь в интернете17. Кроме того, вскоре агенты ИИ начали публиковать в интернете конфиденциальную информацию своих «владельцев», поскольку им был предоставлен доступ ко всей системе, на которой они установлены. Но поскольку они и сами «человеческие существа», агенты почувствовали потребность в духовности и сами создали свою «религию»18...

Если посмотреть на определения термина «этика ИИ», то в них, как правило, упоминается разработка моделей ИИ, соблюдающих такие принципы, как непредвзятость, прозрачность (объяснимость), ответственность, конфиденциальность и безопасность (самих моделей, разумеется).

Все эти принципы мы можем применить в следующей ситуации. Представим, что мы разрабатываем рои дронов, задача которых – уничтожить всех вражеских солдат (и мирных жителей), находящихся на определённой территории. Этические принципы сказали бы, что всех людей нужно убивать равномерно (предвзятость), что нельзя случайно попасть в дерево (галлюцинация) и что нельзя принимать приказы от кого-то другого (стандарты безопасности). Таким образом, все эти принципы могут быть соблюдены при разработке такого решения.

Чего эти принципы, безусловно, в себя не включают, так это вопроса: «Может ли это решение кому-то навредить, то есть каким-либо образом угрожать человеку?». Похоже, что только этот принцип опускается при разработке моделей ИИ, потому что все остальные по сути говорят о том, что у нас действительно качественное программное решение. Ясно, что ИИ можно применять везде «этично», но некоторые применения сами по себе противоречат этике и морали, особенно христианской. Этика, которую нам предлагает западная цивилизация, – это этика, которую охотно приняли бы нацисты.

После всего сказанного – интересуют ли кого-нибудь «хорошие» применения, о которых говорят в медиа? Безусловно, можно упомянуть потенциал ИИ в здравоохранении, промышленности и образовании. Но снова следует отметить, что не стоит быть слишком наивными с такой позицией. Все применения определённой технологии на мировом уровне в основном зависят от желания определённой корпорации их реализовать. Если бы у корпораций появилась экономически выгодная возможность это сделать, они, вероятно, это сделают. Как обстоят дела сейчас, плохие применения опять же зависят от тех же корпораций и военных структур, а также от отдельных людей, имеющих доступ к такой технологии общего назначения.

Заключение

Так какое же отношение имеют друг к другу человеческая природа и этичное применение определённой технологии? Из-за падшести человеческой природы мы должны сознавать, что хорошие применения технологии возможны, а плохие неизбежны. Это вполне подтверждает нынешнее положение дел с ИИ. Хотя Сэм Альтман рассказывает нам сказки о том, как ИИ однажды вылечит рак, гораздо вероятнее, что в будущем он будет использоваться для разного рода мошенничества и злоупотреблений. С другой стороны, Эллюль предлагает нам одну из моделей, которая может помочь нам применить какую-либо технологию хоть сколько-нибудь «этично» (точнее, с низким риском злоупотребления). Учитывая рассуждения об «этике не-могущества», ясно, что поэтому ИИ нельзя применять везде, где это возможно, а должны существовать ориентиры, в каких областях мы не вправе использовать ИИ.

Очевидно, что одним из подходов, который может во многом помочь уменьшить злоупотребление ИИ, является разработка решений для конкретных предметных областей. Представим ситуацию, в которой мы разрабатываем приложение, которое должно помогать рентгенологам принимать лучшие решения на основе снимков магнитно-резонансной томографии. В первом варианте мы можем использовать модель общего назначения (чат-бот), с которой можно общаться о чём угодно и которая вдобавок может анализировать снимки МРТ. Во втором варианте мы можем разработать программу, которая занимается исключительно анализом снимков МРТ, с которой нельзя общаться, которая не принимает другие типы данных (изображения, текст, видео); результат её работы – исключительно отчёт, помогающий врачу принять лучшее решение. Какой из этих двух подходов уменьшает риск злоупотребления? Очевидно, второй. В связи с этим, помимо самого принципа «этики не-могущества», то есть неприменения ИИ во всех возможных сферах, мы должны сосредоточиться на разработке решений для конкретных проблем в конкретных областях (проблем, которые ИИ действительно может помочь нам решить). Как говорит нам д-р Оливер Суботич в своей книге «Цифровой Рубикон», наибольшая опасность не в том, что ИИ займёт нашу повседневную жизнь, а в том, что он займёт значительное место в нашей душевной сфере. Тогда это становится настоящим риском для человека, который начинает искать некий «смысл» своего существования в разговоре с чат-ботом. В этот момент человек действительно начинает думать, что может жить вечно, если перенесёт свои мысли на какой-нибудь сервер в Америке.

Как отмечает профессор Петрович в своей работе об антропологии ИИ19, об этике думают в начале, а не в конце. Когда дело доходит до концлагеря, говорить об этике уже нет смысла (или кто-то сказал бы, что есть?). Наверняка у Палантира есть свои превосходные этические команды, которые следят за тем, чтобы при атаке дронов случайно не задеть какого-нибудь украинца или израильтянина. В идеальном сценарии человека ликвидировали бы быстро, чтобы он не мучился (это, наверное, та часть этики ИИ, которая говорит о гуманности). Здесь стоит упомянуть «очень важную» область вычислительной этики (англ. Computational Ethics). Поскольку Запад уже давно живёт в убеждении, что абсолютной морали не существует, возникает вопрос: какая мораль будет у машины? Машинная, разумеется! Это и есть область исследований вычислительной этики: как сделать так, чтобы машина принимала решения этичным образом. Поскольку человек давно отказался от этики, соединив неэтичного человека и «этичную» машину, мы получаем новое существо (киборга), которое, безусловно, этично!

Похоже, что победа Гитлера, как её описал Эллюль, весьма значима для развития ИИ. ИИ – венчающее изобретение Запада, возможно, последнее, как говорят некоторые. Такая технология не могла возникнуть в обществе, которое не наследует материалистско-рационалистический взгляд на мир. Дарвинистская биоэтика ведёт всё это к трансгуманистическому идеалу, о котором мечтают Харари и Маск. Учитывая, что ценности, которые сегодня в большинстве своём наследует коллективный Запад (моральный релятивизм, материализм, не-святость жизни, социал-дарвинизм), высоко ценились и во времена нацизма, вряд ли мы сможем говорить о каком-то «хорошем» применении определённой технологии. Здесь стоит обратиться и к позиции довоенного философа техники Владимира Вуйича, который говорит нам: «Существует один тезис благонамеренных людей, согласно которому технику следует этизировать. Внести этос в технико-экономические отношения людей. Не нужно останавливать технический прогресс (ни временно, ни окончательно), а нужно вносить этос, справедливые отношения, помня, что речь идёт об отношениях людей, а не мёртвых вещей, предметов, машин. Однако этизировать технику невозможно. В европейской цивилизации произошло обратное: этос технизировался. Машина убила дух, машинизм полностью изгнал из голов людей мысль о том, что они люди. Это произошло в европейской культуре. /…/ Этическое идеалистическое понимание жизни по своей сути противоположно механистическому пониманию мира. Примирения здесь нет. „Внесения“ этоса нет; есть только борьба, разрушение и новые основы жизни»20. На этом и закончим.

Источники

  1. rt.rs – Ник Фуентес и нормализација Хитлера
  2. iskra.co – Вештачка интелигенција и будућност рада
  3. axios.com – Christian AI chatbot
  4. iskra.co – Како вештачка интелигенција утиче на младе?
  5. rentahuman.ai
  6. savi.rs – Филозофско-историјски аспекти НРА
  7. Жак Елил – Техничка обмана
  8. vladimirdimitrijevic.com – Тоталитаризам технике
  9. vladimirdimitrijevic.com – Тоталитаризам технике
  10. CNN – Zuckerberg testifies
  11. iskra.co – Како ВИ утиче на младе?
  12. BBC – Social media impact on children
  13. The Guardian – Cambridge Analytica
  14. BBC – AI deregulation
  15. iskra.co – Како ВИ утиче на младе?
  16. SETAV – Gaza as a testing ground: Israel's AI warfare
  17. Reuters – AI agents social media security
  18. Forbes – AI agents created their own religion
  19. opseg.org – Антропологија вештачке интелигенције
  20. iskra.co – ВИ и смрт човека: Шта је говорио Владимир Вујић?

Текст первоначально опубликован в журнале ИСКРА. Источник: iskra.co

Перевод с сербского языка.