Глава 2. Этапы развития и основные проблемы компьютерной этики 47

ветственности компьютерной системе», Д. Ллойда «Дети Франкенштейна: искусственный интеллект и человеческие ценности», Дж. Снэппера «Ответ­ственность за ошибки, связанные с использованием компьютера». В том же 1985 году была издана антология «Этические вопросы в использовании ком­пьютеров» (составители Д. Джонсон и Дж. Снэппер) [206] а также моногра­фия Д. Джонсон «Компьютерная этика» [198]. В этих публикациях отражены первые результаты предметного самоопределения компьютерной этики, представлен круг относящихся к данной области проблем и основные подхо­ды, характерные для теоретиков и практиков [1].

Джеймс Мур

В своей статье «Что такое компьютерная этика?» [228] Джеймс Мур, профессор философии из колледжа в Дартмуте, назвал XX век эпохой ком­пьютерной революции. Он полагал, что первый этап этой революции связан с созданием и совершенствованием собственно ЭВМ и охватывает первые со­рок лет после Второй мировой войны. Во второй этап компьютерной рево­люции индустриально развитый мир вошел только недавно (на момент напи­сания статьи). Для второго этапа характерна интеграция компьютерных тех­нологий в ежедневную деятельность человека и в социальные институты, а также изменение самого значения таких фундаментальных концепций, как «деньги», «образование», «работа», «честные выборы».

Уже в то время Джеймс Мур предвидел, что к концу XX века многие ви­ды человеческой деятельности и многие общественные институты будут пре­образованы компьютерными технологиями, и это, несомненно, породит «ши­рокий спектр проблем компьютерной этики» [30].

Джеймс Мур обратил внимание на важную особенность компьютеров: большую часть времени и в большинстве случаев компьютерные операции невидимы. Он выделил три проявления фактора невидимости [228]:

1. невидимое злоупотребление компьютерами;

2. присутствие в программах невидимых параметров и скрытых функций;

3. невидимость сложных вычислений.

Наиболее обычным проявлением фактора невидимости, который имеет этическое значение, является невидимое злоупотребление. Невидимое зло­употребление заключается в намеренном использовании невидимых опера­ций компьютера для неэтичного поведения. Классическим примером неви­димого злоупотребления является присвоение программистом банка некото­рой доли процентов, остающейся после округления при расчете суммы процентов по банковскому счету [228]. Хотя это обычный случай хищения, он имеет отношение к компьютерной этике, поскольку здесь существенным образом задействована компьютерная технология и необходимо выбрать по­литику, которая позволит лучше обнаруживать и предотвращать подобные злоупотребления. Другим видом невидимого злоупотребления является пося­гательство на собственность и неприкосновенность частной жизни других людей. Компьютер может быть запрограммирован таким образом, чтобы свя-

Этика в сфсрс информационных технологий

зываться с другим компьютером по телефонным линиям и тайно уничтожать или изменять конфиденциальную информацию. Наиболее коварным видом невидимого злоупотребления является использование компьютеров для на­блюдения за служащими на рабочих местах. Существуют компьютерные программы, позволяющие вести мониторинг активности работников, отсле­живать их телефонные звонки и электронные письма, не оставляя никаких

следов наблюдения.

Вторым проявлением фактора невидимости, которое, по мнению Мура, более неуловимо и концептуально более интересно, является присутствие в программах невидимых параметров и скрытых функций. Эти параметры и функции чаще всего невидимы для того, кто запускает программу на выпол­нение. Более того, сами программисты порой не всегда способны избежать ошибок и предусмотреть все ситуации, которые могут возникнуть при экс­плуатации разработанной ими программы в реальных условиях.

Третье проявление фактора невидимости, которое, как считает Мур, вы­зывает наибольшее беспокойство, - это невидимость сложных вычислений. Компьютеры сегодня способны выполнять такой объем вычислений, который выше человеческого понимания. Даже если программа понятна, из этого не следует, что понятны вычисления, выполненные при помощи этой програм­мы. Проблема заключается в том, насколько люди должны доверять невиди­мым вычислениям. Актуальность этой этической проблемы не вызывает со­мнения, ведь компьютеры, например, используются военными при принятии решений о запуске ракет с ядерными боеголовками.

Джеймс Мур полагал, что частичное решение проблемы невидимости, возможно, заключается в самих компьютерах [228]. Одна из сильных сторон компьютеров заключается в способности определять местонахождение скры­той информации и отображать ее. Компьютеры могут делать невидимое ви­димым. Информация, которая была потеряна в море данных, может быть об­наружена при помощи соответствующего компьютерного анализа. Мур при­шел к заключению, что благодаря фактору невидимости люди оказываются перед дилеммой. С одной стороны, они довольны, что компьютерные опера­ции невидимы, так как не желают проверять каждую компьютерную транзак­цию, отслеживать каждый шаг программы или наблюдать за компьютерными вычислениями. В силу своей эффективности фактор невидимости их устраи­вает, но, с другой стороны, та же самая невидимость делает их уязвимыми. Люди оказываются не защищенными от невидимого злоупотребления, неви­димого программирования или невидимых ошибок и просчетов при написа­нии программ. Задача компьютерной этики - сформулировать принципы, ко­торые помогут разрешить эту дилемму. Необходимо знать, когда доверять компьютерам, а когда нет. В этом, по мнению Мура, заключается еще одна причина, почему компьютерная этика так важна.

Мур назвал компьютерные технологии неподдельно революционными за их гибкость, логическую податливость и универсальность: «Компьютеры гибки, так как они могут быть созданы для любого вида деятельности, кото­