Аннотация. В статье рассматриваются этические вопросы, с которыми сталкиваются профессиональные переводчики в связи с трансформацией цифрового перевода и использования систем машинного перевода и искусственного интеллекта. Предлагается сопоставление современных проблем цифровизации перевода с философскими традициями этики технологий, утилитаризма, деонтологии. В число этических вопросов применения искусственного интеллекта и машинного перевода авторы включают авторство и интеллектуальную собственность, конфиденциальность, ответственность за ошибки, трансформацию профессии переводчика.
Ключевые слова: цифровой перевод, машинный перевод, переводческая этика, искусственный интеллект.
На данный момент происходит значительный рост качества текстов, производимых системами искусственного интеллекта (ИИ), и расширение сфер его применения. Инструменты на основе искусственных нейронных сетей получили широкое применение в различных лингвистических исследованиях, например, в области лингводидактики и научной коммуникации. Системы ИИ работают на основе технологий обработки информации на естественном языке, и это является причиной, по которой их используют в задачах, связанных с преобразованием текстов, а именно – с переводом на иностранный язык. Повсеместное внедрение новейших технологий в различные отрасли гуманитарного знания и профессиональной коммуникации привело к значительным изменениям в переводческой деятельности. В связи с этим возрастает необходимость формирования технологических компетенций современного переводчика для профессионального развития и соответствия требованиям рынка труда, а также оценка технологических и этических трудностей, с которыми могут столкнуться профессиональные переводчики [5, с. 155], [4, с. 313-314].
Для того, чтобы выявить современные проблемы искусственного интеллекта в переводе, необходимо обратиться такому направлению философского знания, как к этике технологий, которая находится на пересечении научно-технического прогресса и моральной рефлексии. С самого начала развитие техники и технологий общество приводит предположения, касающиеся их возможных социальных последствий, в связи с чем были сформированы две противоположные традиции – условно «традиции да Винчи» и «традиции Галилея». Первая предполагает, что транслировать научное знание в общество невозможно, так как его непоследовательное использование может нанести вред обществу, и во избежание вреда от технологий необходимо ограничение распространения знания. Вторая точка зрения предполагает, что возможные социокультурные последствия не являются причиной для ограничения развития технологий. Последствия второй мировой войны стали переломными для становления этики технологий, и именно в этот период обществом были предприняты попытки объединенить две несопоставимые традиции, касающиеся соотношений науки, этики и общества. Дискуссии, связанные с этикой и социальной ответственностью ученых были представлены в таких сборниках, как, например, «Бюллетень ученых-атомщиков», «Пангоушская конференция», «Азиломарская конференция». Данная дихотомия остается актуальной и в тех случаях, когда речь идет об искусственном интеллекте и машинном переводе, когда технологии становятся дополнительным звеном в процессе межкультурной коммуникации. Этика технологий опирается на классические моральные теории, среди которых выделяют деонтологию, утилитаризм и теорию естественного права.
Деонтологический подход, предложенный Иммануилом Кантом, исходит из идеи безусловных моральных норм, которые необходимо соблюдать вне зависимости от последствий. В контексте применения искусственного интеллекта и машинного перевода это означает, что разработчики и пользователи при взаимодействии с технологиями обязаны руководствоваться принципами ответственности, честности и уважения к человеческому достоинству, даже если можно улучшить работу систем, нарушив эти принципы [1, с. 220].
В противоположность деонтологии ставят утилитаризм, разработанный Джереми Бентамом и развитый Джоном Стюартом Миллем, который основан на принципах максимизации общей пользы. В рамках утилитаризма мораль рассматривается как система, направленная на достижение наибольшего счастья для наибольшего числа людей, при этом моральные оценки формируются через соотнесение конкретных действий с принципом полезности. Если применять принципы утилитаризма к машинному переводу, это может означать оправдание использования несовершенных или даже частично искажающих смысл алгоритмов, если они в целом повышают доступность информации и способствуют глобальной коммуникации [3, с. 48-50].
На пересечении этих подходов возникает ряд этических проблем, связанных с использованием искусственного интеллекта в переводе. Ключевым является вопрос о том, «понимают» ли системы искусственного интеллекта тексты на естественном языке. В философии сознания и языка данная проблема получила классическое выражение в аргументах против «сильного ИИ», в частности, в работах Джона Серла. Его мысленный эксперимент под названием «китайская комната» направлен на демонстрацию того, что система может оперировать символами по заданным правилам, не понимая их значения. Человек, находящийся в комнате и манипулирующий иероглифами по инструкции, может создавать осмысленные ответы, не владея китайским языком. По аналогии, компьютерные системы, включая алгоритмы машинного перевода и искусственного интеллекта, способны к генерации грамматически корректных текстов без реального понимания их содержания [2].
Профессиональный перевод является сложной когнитивной деятельностью, которая включает в себя интерпретацию, принятие решений в условиях неопределенности и творческое преобразование смысла. В этом смысле человеческий переводчик не просто обрабатывает текст, но активно участвует в его осмыслении. Искусственный интеллект, напротив, действует на основе обработки больших массивов данных и выявления статистических закономерностей. Из-за отсутствия связи с культурным, историческим и экзистенциальным контекстом, в котором формируется смысл, не представляется возможным судить о полном понимании текста в философском смысле. С этим напрямую связана проблема искажения смысла. Как подчеркивается в исследованиях теории перевода, перевод всегда предполагает интерпретацию и, следовательно, профессиональный переводчик имеет возможность отклонения от исходного значения. В случае машинного перевода эта проблема усугубляется отсутствием рефлексии и способности к осознанному выбору. Алгоритм может воспроизводить грамматически корректные, но семантически неточные или культурно неадекватные конструкции, что приводит к нарушению коммуникации [2].
Также значительной для переводческой деятельности этической проблемой является вопрос авторства и интеллектуальной собственности. Если перевод производится с использованием алгоритмов, обученных на объемных корпусах текстов, возникает вопрос о том, кому принадлежит результат – разработчику системы, пользователю или авторам исходных данных. В условиях цифровой экономики, когда данные являются ключевым ресурсом для информационного общества, эта проблема приобретает особую остроту и требует внимания в рамках правового регулирования.
Особую сложность представляет проблема ответственности, которую можно проанализировать в рамках деонтологической этики Иммануила Канта. В кантовской философии мораль основывается на принципе категорического императива, на основании которого человека следует рассматривать как цель, а не как средство. В применении к этике технологий это означает, что при использовании ИИ не следует нарушать достоинство человека и его свободу, или вводить в заблуждение относительно природы получаемой информации. Кантовский подход также предполагает персональный характер ответственности: от субъекта требуется нести ответственность за свои действия, как от разумного и свободного существа. Однако в случае, когда речь идет о машинном переводе, возникает проблема разделенной ответственности. Границы моральной ответственности за ошибки алгоритмов размываются, так как они могут быть вызваны алгоритмами, качеством данных или действиями разработчиков или пользователей. С точки зрения деонтологии, необходимо сохранять человеческий контроль над результатами работы ИИ и не допускать полной передачи ответственности компьютерным системам. Если профессиональный перевод, выполненный человеком, предполагает личную ответственность за содержание текста, то в случае использования искусственного интеллекта ответственность распределяется между разработчиками, пользователями и самой системой, и появляется ситуация неопределенности, в которой трудно установить, кто именно должен нести ответственность за негативные последствия и риски использования перевода.
Отдельного внимания заслуживает проблема конфиденциальности. Использование систем машинного перевода напрямую связано с передачей данных, в том числе личных или секретных, используя которые, переводчик может нарушить профессиональные и юридические нормы. Соблюдение конфиденциальности является важнейшим элементом профессиональной этики переводчика, особенно при работе с конфиденциальной информацией, в связи с чем следует отказаться от использования машинного перевода и искусственного интеллекта при переводе текстов, которые не являются общедоступными, или пользоваться исключительно корпоративными сервисами, созданными для защищенной обработки внутренней информации [6, с. 151].
Не менее значимым является влияние искусственного интеллекта на саму профессию переводчика. В настоящее время можно говорить о появлении «цифрового перевода», суть которого заключается в том, что профессиональный переводчик взаимодействует с системами машинного перевода, электронными словарями и искусственными нейронными сетями для оптимизации трудозатрат на перевод текста: например, можно произвести автоматическое пред- и постредактирование текста, подключить глоссарий, изменить формат документа и т.д. Взаимодействие переводчика и интеллектуальных систем носит противоречивый характер: с одной стороны, технологии повышают эффективность и расширяют возможности деятельности, с другой – создают угрозу вытеснения человека из ряда профессиональных областей. Возникает вопрос о будущем профессии, о необходимости переосмысления профессиональной идентичности переводчика и адаптации образовательных программ к новым условиям [2].
Таким образом, развитие искусственного интеллекта в сфере перевода сопровождается обширным перечнем этических проблем, требующих философского и профессионального осмысления. Эти вопросы затрагивают фундаментальные вопросы о природе языка, смысла, ответственности и роли человека в условиях технологической цивилизации, поэтому решить их, обращаясь исключительно к технологической стороне вопроса, невозможно.
Список литературы:
- Анохина С.Е. Прошлое и настоящее этики технологий: к истории определения понятия // Вестник наук Сибири, 2012. Т. 2. №1. С. 210-213.
- Гарбовский Н.К., Костикова О.И. Интеллект для перевода: искусный или искусственный? // Вестник Московского университета. Серия 22: Теория перевода, 2019. №4. С. 3-25.
- Платонов Р.С. Моральная универсальность в этике классического утилитаризма (Иеремия Бентам, Джон Стюард Милль) // Антиномии, 2020. Т. 20. №4. С. 45-64.
- Сулейманова О.А., Нерсесова Э.В., Вишневская Е.М. Технологический аспект подготовки современного переводчика // Филологические науки. Вопросы теории и практики, 2019. Т. 12. №7. С. 313-317.
- Тивьяева И.В. Академическая культура и перспективы использования нейросетей в практике русско-английской научной коммуникации // Три «Л» в парадигме современного гуманитарного знания: лингвистика, литературоведение, лингводидактика: Сборник научных статей Всероссийской научно-практической конференции, Москва, 23 ноября 2023 года. М.: ООО «Языки Народов Мира», 2024. С. 154-159.
- Фонова Е.Г., Шитц О.А. К вопросу о профессиональных компетенциях переводчиков в эпоху искусственного интеллекта // Вестник Томского государственного педагогического университета, 2025. Т. 237. №1. С. 148-156.
Artificial intelligence and machine translation ethical issues
Grebennikova E.R.,
postgraduate student of 1 course of the Moscow City University, Moscow
Abstract. The article examines the ethical issues faced by professional translators within the introduction of digital translation and machine translation and artificial intelligence systems usage. A comparison of modern problems of translation with the philosophical traditions, technology ethics, utilitarianism, and deontology is proposed. Among the ethical issues of artificial intelligence and machine translation usage, the authors include authorship and intellectual property, confidentiality, responsibility for errors, and the transformation of the translation profession.
Keywords: digital translation, machine translation, translation ethics, artificial intelligence.
References:
- Anokhina S.E. The past and present of the ethics of technology: to the history of the definition of the concept // Bulletin of Sciences of Siberia, 2012. Vol. 2. №1.: 210-213.
- Garbovsky N.K., Kostikova O.I. Intelligence for translation: artificial or artificial ? // Bulletin of Moscow University. Series 22: Theory of Translation, 2019. №4.: 3-25.
- Platonov R.S. Moral universality in the ethics of classical utilitarianism (Jeremiah Bentham, John Steward Mill) // Antinomies, 2020. Vol. 20. №4.: 45-64.
- Suleimanova O.A., Nersesova E.V., Vishnevskaya E.M. Technological aspect of training a modern translator//Philological sciences. Questions of theory and practice, 2019. Vol. 12. №7.: 313-317.
- Tivyaeva I.V. Academic culture and prospects for using neural networks in the practice of Russian-English scientific communication // Three «L» in the paradigm of modern humanitarian knowledge: linguistics, literary criticism, linguodidactics: Collection of scientific articles of the All-Russian Scientific and Practical Conference, Moscow, November 23, 2023. Moscow: LLC Languages of the Peoples of the World, 2024.: 154-159.
- Fonova E.G., Schitz O.A. On the issue of professional competencies of translators in the era of artificial intelligence // Bulletin of Tomsk State Pedagogical University, 2025. Vol. 237. №1.: 148-156.