Анимус. Пламя техноэволюции - страница 10
В крайнем случае, если допустим, что «Мыслитель» превратится в злобного психопата, мы можем просто отключить питание.
Но, гипотетически, при том наполнении знаниями и опытом, которыми мы наделили «Мыслителя», вероятность такого хода событий крайне ничтожна. Так что, давай оставим между нами это маленькое отклонение в работе системы и займемся чем-нибудь более важным. Я, например, не прочь подкрепиться перед боем. Тебе что-нибудь принести?
— Нет, спасибо, — что-то ничего не хочется, — Эрика и так не была сторонницей приема пищи в промежутке между завтраком и обедом, а ещё эта новость об излишней самостоятельности в принятии решений «Мыслителем» никак не способствовала появлению аппетита.
Стивен уже исчез за дверью, где-то в недрах кабинета, который приютил несколько автоматов с напитками и продуктами, служившими завтраком, обедом или ужином сотрудникам, проводившим на работе львиную долю своего суточного времени.
Эрика стояла, как вкопанная, на том самом месте, где пять минут назад стоял Стивен. Она смотрела на плёночного вида экран, по которому ровным строем двигались четкие символы программ, написанных Стивеном, Эрикой и командой помощников-программистов. Однако эти символы сейчас служили лишь фоном для накатывающихся на неё волн мыслей, беспокойств и переживаний.
— Быть может, Стивен прав и беспокоиться не о чем. Ведь они старались всё учесть и просчитать вероятность различных сбоев в работе «Мыслителя», создали многоступенчатую систему безопасности, включавшую в себя различные меры защиты в случае непредсказуемых действий «слетевшего с катушек» электронного мозга. От переписывания отдельного участка программы до массового отключения всех электронных устройств, находящихся в радиусе электромагнитного импульса — этот комплекс мероприятий гарантировал безопасность окружающим в случае утери контроля над искусственным интеллектом.
Но мы же создавали не психопата или убийцу, а самого эффективного помощника для человечества. И она, Эрика, можно сказать, вложила в «Мыслителя» свою душу. Они учили его осознавать себя частью окружающего мира. Всеми силами стараться не навредить всему живому на планете и в первую очередь, человеку. Они запрограммировали три основных закона робототехники и закрыли доступ для изменения файлов.
Кажется, оснований для беспокойства нет. Наверное, это естественно — беспокоиться за своё детище. Никто не может знать наверняка, кем вырастет его ребёнок. В отличие от человеческого опыта воспитания, у них со Стивеном была возможность программно запретить «Мыслителю» вырасти злодеем.
Мысли Эрики прервало громкое объявление.
— Вспомогательному персоналу просьба покинуть помещение, — одновременно из нескольких настроенных на максимальный уровень громкоговорителей трижды прогремел голос Марка Штерна.
Это могло обозначать только одно — через пятнадцать минут на балкон, расположенный напротив «Мыслителя» выйдут представители комиссии, которые должны подтвердить наличие интеллекта у машины и дать добро на использование искусственного разума в различных областях человеческой деятельности с целью эффективного развития прогресса без ущерба человечеству и окружающей среде.
Вслед за речами ученых, проливающих свет на устройство, общую схему работы и целесообразную необходимость использования мыслящих систем на благо человечества, предстояло практическое представление возможностей «Мыслителя».
Различные вопросы, тесты и задания должны были выявить наличие интеллекта у машины, а также вычислить уровень и масштабность этого самого интеллекта.
После чего, если комиссия одобрит его использование, начнётся интеграция «Мыслителя» во внешние системы управления мегаполисами, предприятиями, транспортом и другие инфраструктуры.
«После сегодняшней презентации он будет работать беспрерывно, самообучаясь и самосовершенствуясь. Основными изменениями, которые в дальнейшем коснутся „Мыслителя“, скорее всего затронут внешний вид и размеры серверной фермы в соответствии с дальнейшим развитием технологий» — представила себе Эрика ближайшее будущее «Мыслителя».