Да, в мире, где на тракторах, комбайнах, грузовиках – исключительно компьютеры. А люди – в комфортных кабинетах.

Всё это, вроде бы, прекрасно. Однако для человечества череcчур ново, непривычно, а, следовательно, потенциально опасно.

Поэтому сейчас самое время присесть, задуматься. Может быть, мы очень быстро идём? Да ещё и не совсем туда?

А то ведь еще чуть-чуть – и окажется, что любой шаг только с ведома и при содействии компьютеров.

И не только на работе, но и в жизни.

Вон, например, некоторые холодильники уже не допускают своих хозяев к еде в неурочное время, следят, понимаешь, за их режимом и диетой.

Одно утешает, что программируют такие холодильники пока сами хозяева. А что будет, когда эти железные шкафы начнут проявлять инициативу?

Вот тут мы и подошли к одной из самых сложных дилемм, связанных с компьютеризацией.

С одной стороны, хотелось бы, чтобы компьютеры были более умными, гибкими, обладали свойствами саморазвития.

С другой стороны, всё это чревато большими неприятностями. Быстро совершенствуясь, компьютеры всё чаще предстают перед людьми в виде "чёрных ящиков", о многих свойствах и действиях которых даже опытные программисты могут не знать или забыть.

В этом человечество уже имело возможность убедиться на рубеже тысячелетий, когда "чёрный ящик" — компьютер по вине устаревших и давно забытых программных модулей чуть не стал ящиком Пандоры. Речь идёт о "проблеме 2000".

А всё идёт к тому, что скоро компьютеры начнут самоусовершенствоваться, и делать это станут на основании своих внутренних устремлений.

Пусть каждое изменение — пустяк, шажок в неком направлении. Шажок в одном направлении, в другом, третьем... Всё это много раз и с разными целями. В результате могут возникнуть проблемы какой угодно сложности.

Вот и вопрос: что делать?

Робот Data из сериала StarTrek (играет актёр Брент Спайнер).

Поэтому требуется всестороннее осмысление ситуации, поиск компромисса.

А ситуация такая. У человека, как биологического вида, появились интеллектуальные виртуальные помощники, подсказчики, исполнители рутинной работы, которые берут на себя многие обязанности, неведомые ранее функции.

Роль этих помощников далеко не всегда очевидна и однозначна.

Но они есть, быстро развиваются, входят в различные сферы человеческой деятельности.

Поэтому пора исходить из того, что живет, учится, работает не просто индивидуум с такими-то способностями, приоритетами, методами восприятия и принятия решений, а индивидуум, у которого есть виртуальный помощник.

Более того. Развитие компьютерной среды достигло той стадии, когда многие процессы, происходящие в науке, технике, общественной жизни,

по своей сути представляют процессы создания и обучения неких человеко-машинных систем.

Систем, в которых люди и компьютеры взаимно дополняют друг друга, более полно и эффективно реализуют свои потенциальные возможности, работают как единая команда.

Нам представляется, что такой подход более оправдан, чем альтернативный, заключающийся в попытке создать искусственный интеллект, вложить в него те интуитивные способности, которыми обладает человек. Более оправдан как с точки зрения дня сегодняшнего, так и обозримого будущего.

И дело не только в том, что эти человеческие способности развивались, вероятно, миллионы лет, и для их воспроизведения необходимы огромные усилия и затраты.

Дело в том, что искусственный интеллект (при условии, что он будет создан) когда-нибудь наверняка ощутит потребность в саморазвитии, размножении. Для этого ему понадобятся дополнительные ресурсы и власть.

С этого момента он начнет подчиняться не столько пресловутым "Законам Робототехники" Айзека Азимова, сколько биологическим и социальным законам.

Почему? Да потому, что, с точки зрения гипотетического искусственного интеллекта, даже лишняя электролампочка представляет потенциальную угрозу. Ибо её включение приводит к неэффективному использованию ресурсов, снижает стабильность работы энергосистемы.

Другими словами, встав на путь создания искусственного интеллекта (именно интеллекта, а не отдельных его элементов), человечество рискует получить мощного и совершенного соперника.

Чтобы этого не случилось, необходимо заблаговременно закрыть доступ компьютеров в "запретные" для них зоны.

Сейчас сложно составить полный список таких зон. Но две из них, на наш взгляд, просматриваются чётко.

	Пускать роботов в музыку нельзя.

Во-вторых, это всё, что связано с самоидентификацией техногенной среды в качестве квазибиологической или квазисоциальной системы, способной бороться за ресурсы и власть с человеком.

Опасения, связанные с творческими возможностями компьютеров, пока достаточно абстрактны.

А вот со вторым пунктом куда сложнее. Ибо роль компьютеров в системах принятия решений с каждым днём всё заметнее, их функции всё шире и ответственнее.

Тут простыми запретами не обойдёшься. Необходимы иные способы устранения потенциальной опасности.

Один из таких способов основывается на использовании коллективных, командных методов работы человека и компьютера, предполагающих присутствие человека в качестве неотъемлемой и важнейшей части любой саморазвивающейся системы.

(В данном случае, термин "команда" означает "специально подобранный и хорошо слаженный коллектив").

Методы командной работы и принятия решений человечество разрабатывало и шлифовало в течение многих тысячелетий.

Введение компьютеров в состав команды меняет многое, в том числе, и в психологическом плане. Тем не менее, практика показывает, что человеко-машинные системы являются одной из самых благодатных областей для практического использования подобных методов.

Дело в том, что такие системы — это вовсе не механическое объединение способностей людей и компьютеров. Очень многое зависит от распределения между членами команды статусов (мест в иерархической структуре) и ролей (задач, обязанностей, полномочий, ресурсов).

Человек, как правило, достаточно болезненно относится к своему статусу и роли (статус, обычно, хочется иметь повыше, а роль поинтереснее).

Компьютер, к счастью, пока не подвержен подобным "эгоистичным" устремлениям.

Последнее обстоятельство и даёт человеку шансы навсегда остаться "царём зверей и компьютеров".

Для этого необходимо лишь "правильно" распределять роли в любой человеко-машинной системе.

Ибо только с помощью соответствующего распределения ролей можно отстранить компьютеры от задач, связанных с квазибиологической и квазисоциальной самоидентификацией сложных систем.

Сравнивая человеко-машинную систему с командой, следует сказать следующее.

Проблема создания хорошей, сыгранной команды всегда сложна, многогранна, тесно переплетена обратными связями с множеством других задач и проблем. Подходить к её решению необходимо с разных сторон.

Ибо тут и психология важна, и педагогика, и базовая подготовка... Плюс масса профессиональных знаний, навыков, умений. А ещё различного рода организационные и тактические вопросы, стратегические устремления.

Поэтому создание и развитие человеко-машинных систем предполагает участие большого количества различных специалистов. И все они важны.

Однако, есть две категории специалистов, которые занимают особое место.

Во-первых, это категория идеологов (руководителей, режиссеров, тренеров). Именно они ставят цели, подбирают членов команды, определяют приоритеты и статусы, распределяют роли.

Во-вторых, — аналитики и сценаристы, которые обычно объединяются в так называемые сценарно-прогнозные группы. Основные задачи таких групп: анализ возможных ситуаций, описание сценариев различных путей развития событий, определение их плюсов и минусов, возможных рисков, неясных и сомнительных мест.

Создание человеко-машинной системы — задача многоэтапная, итерационная. Вначале разрабатываются и апробируются простейшие приёмы, способы, сценарии совместной работы людей и компьютеров. Затем на их основе создаются более сложные. Разработанные ранее способы и сценарии при этом уточняются, дополняются или отбрасываются.

Всё это повторяется многократно; причем далеко не каждое повторение выполняется на более высоком уровне; возвращение к пройденным ранее этапам является скорее правилом, чем исключением.

А поскольку задачи, возможности, потребности общества меняются, компьютеры совершенствуются, то процессы взаимной адаптации членов команды обычно продолжаются до момента её расформирования.

Проиллюстрируем общие принципы создания человеко-машинной системы на примере компании, специализирующейся на страховании туристов.

Специфика работы такой страховой компании заключается в том, что помимо компенсации убытков, она обязуется обеспечить клиенту медицинскую, правовую, иную помощь на территории многих стран и даже континентов.

Ну а сумо пускай себе изображают.

При этом нелишне напомнить, что страховые случаи и ситуации бывают разные, а в каждой стране свои законы, языки, порядки, цены, условия, часовые пояса и многое другое. Тут уж без компьютерной поддержки не обойтись.

На первых этапах такая поддержка обычно сводится к формированию баз данных (клиентов, договоров, партнеров, медицинских и юридических организаций).

Вскоре выясняется, что нужны ещё и некие сценарии (установления контактов, получения информации, действий, переговоров, выполнения обязательств), ибо без них очень сложно решать в реальном времени разноплановые и непростые проблемы.

Все эти сценарии разрабатывают соответствующие специалисты, которые моделируют (в том числе, с помощью проведения деловых игр) возможные ситуации, проблемы, поступки, решения...

Мол, если возникнет такая-то ситуация, то необходимо сделать то-то; а ещё целесообразно сделать то-то; а особое внимание обратить на то-то.

Сценарии помещаются в компьютер; для простоты пользования ими создаются специальные интерфейсы и поисковые системы.

Вот примерно с этого момента компьютер становится, пусть и второстепенным, но членом команды. Используется как помощник, подсказчик, исполнитель рутинной работы.

Например, по названию страны выдаёт не только все необходимые адреса и телефоны контрагентов, но и устанавливает с ними связь, фиксирует даты, события, результаты переговоров.

Постепенно сценарии детализируются и разветвляются, количество их растёт. Появляются многочисленные приложения (проекты договоров, писем, сообщений).

И с каждым новым шагом роль компьютера становиться всё более заметной. Он делает то, что предписано соответствующим сценарием: корректирует и рассылает сообщения, переводит тексты, даёт поручения другим членам команды, выполняет их поручения.

Люди и компьютер вместе решают конкретные проблемы, и при этом совершенно необязательно, что место в иерархии у людей всегда выше. Тут уж по ситуации (имеется в виду рутинная работа).

Необходимо отметить, что введение компьютера в состав команды осуществляется не столько усилиями программистов (их роль очень важна, но, тем не менее, часто вторична), сколько усилиями идеологов системы, постановщиков задач, сценаристов.

Ибо наиболее сложные программы (такие, например, как переводчики) уже входят в программное обеспечение, а большинство других – это реализации тех или иных сценариев, которые, с точки зрения программирования, в данном случае не представляют особых трудностей.

Возможно, этот пример кому-то покажется слишком приземистым и упрощённым. Однако, автор лишь стремился показать один из путей объединения людей и компьютеров в единую команду.

А наиболее просто это сделать на конкретных задачах и сценариях развития событий.

Да, в страховой компании — одни сценарии, в энергетике — другие, в авиации — третьи... Все они разные. И тем не менее некоторое сходство есть, что позволяет делать определённые обобщения...

Заключаются они в том, что в реальных задачах принятия решений практически всегда присутствуют неопределённости, трудноформализуемые факторы, интуитивные подходы.

Именно это даёт основание для использования термина "сценарий" вместо традиционного "алгоритм".

Однако, это уже совсем другая тема.

В заключение хотелось бы подчеркнуть следующее.

1. Человечество, если оно не хочет уступить главенствующее место компьютерам, уже сейчас должно задумываться над вопросами своего присутствия в любой развивающейся системе.

2. На определённом этапе развития, присутствие человека на верхушке каждой саморазвивающейся системы, вероятно, станет тормозом научно-технического прогресса.

3. Научно-технический прогресс не является самоцелью; у человечества есть другие, более важные цели, пути развития. А компьютеры всегда должны оставаться помощниками, высококвалифицированными исполнителями. Но не потенциальными властителями!