Битые козыри - страница 15

– А если ему вздумается дать нам по шее?

– Уверен, что такого желания у него не появится.

– А что ему помешает?

– То же, что мешает ДМ лгать и вставлять нам палки в колеса.

– Признайся, Гарри, что мы даже представить себе не можем, каким будет его поведение.

– Почему же, – возразил Лайт, – ведь его способность думать не станет слабее. А правильная мысль не может привести к плохим поступкам. Умные машины просто не могут делать глупости.

– Но ведь он не окажется в безвоздушном пространстве, – упорствовал Милз. – Его будут окружать люди, которые захотят извлечь из него пользу. Ему придется выполнять команды, продиктованные чужой, не всегда правильной мыслью. Вспомни, как используются роботы на военных заводах. Хотя у них запрограммирована неспособность причинить вред отдельному человеку, это не мешает им выпускать оружие, смертоносное для миллионов. А мэшин-мен, во всем похожий на человека…

– У роботов куцый интеллект и скудная информация, – перебил его Лайт, – они дальше своего носа не видят. Да я вовсе не собираюсь выпускать мэшин-мена в продажу.

– Ты выпустишь джина из бутылки.

Торн, внимательно прислушивающийся к спору, испугался, как бы Лайт не отказался от своего замысла, и решительно вмешался:

– Бобби! Ты зря пугаешь нас мнимыми опасностями. Перед нами интереснейшая техническая проблема. В конце концов и этот кусок кожи – новый шаг к витагену. Может быть, таким же шагом к чеву станет и мэшин-мен.

– Ты прав, Дэви, – согласился Лайт. – Взаимодействие интеллектуальной начинки со свободой передвижения может помочь нам… Приступай к его программированию, а витагеном займется Боб.

Между ними часто вспыхивали разногласия, но после того как Лайт принимал решение, спор прекращался. На этот раз Милз не успокоился.

– В таком случае, – твердо сказал он, – я настаиваю, чтобы интеллект мэшин-мена подчинялся какой-то генеральной установке, цели, называйте как хотите, – но без этого мы родим монстра.

– Это само собой разумеется, – откликнулся Лайт. – И принцип, который будет заложен в основу программы, совершенно ясен.

– Пусть делает то, что считает разумным, – предложил Торн.

– А какой критерий разумности? – спросил Милз.

– Сформулируем так, – сказал Лайт. – Мэшин-мен считает разумным только такой поступок, который не может принести вреда людям. Все его поведение определяется стремлением устранить вред и принести пользу. Он будет делать только то, что давным-давно названо «добром».

– Ты полагаешь, что ему будут доступны такие понятия, как добро и зло?

– А почему бы нет? Переведенные на язык разума, этические категории не столь сложны. Они были путаными, пока опирались на субъективные оценки. «Добро» могло быть личным, семейным, групповым, классовым. А для других оно оборачивалось злом. У мэшин-мена не будет никаких личных пристрастий. Умный и широко эрудированный, он сможет заглядывать вперед и оценивать возможные последствия своих действий. Хорошо мыслящее существо не может быть безнравственным.

– Опять ты увлекаешься, Гарри, и принимаешь невозможное за достижимое, – с грустью сказал Милз. – Мало ли ты знаешь умных злодеев?

– Это другое… С людьми все сложнее. Поэтому мы и мучаемся с чевом… В мозг мэшин-мена достаточно ввести дополнительные блоки комплексного анализа, самоконтроля и дальнего прогнозирования… Дэви! Я набросаю схему, и ты проследишь за программой.

– Сделаю, шеф! – шутливо отрапортовал Торн.

На этом дискуссия закончилась. Чужие идеи всегда щедро оплодотворяли конструкторский гений Торна. То, что другим только мерещилось, получало у него четкие контуры реального проекта. Он нагрузил выделенную ему ДМ задачами высшей сложности, сам, неделями не выходя из лаборатории, просматривал и отвергал предлагаемые варианты, снова и снова заставлял компоновать, казалось бы, несовместимые элементы. Но постепенно ноги и руки мэшин-мена приобрели все степени свободы, глаза и уши – вполне человеческий вид. Общая компоновка деталей удачно имитировала фигуру мужчины, недавно вышедшего из юношеского возраста. Так же успешно справились с внешним покровом. Черепную коробку мэшин-мена и пластмассовый костяк туловища обтянули эрзац-витагеном, а голову покрыли волосами, причесанными по моде.