Программирование - это просто
Advertisement
Главная arrow Разное arrow Рассказы про компьютеры arrow Искусственный интеллект arrow Глава 2. Кибер этика.
25.09.2018 г.
Главное меню
Главная
Системный подход
Интернет магазин
Биржевые роботы
Программные продукты
Математика и информатика
1С:Предприятие
C#, Delphi, VB, F#, Web и пр.
Искусственный интеллект
Услуги
Ча. Во. (FAQ)
Платный раздел
Наука для чайников
Разное
Размышления
Карта сайта
Друзья сайта
Excel-это не сложно
Все о финансах
Глава 2. Кибер этика. Печать E-mail
Автор megabax   
31.12.2017 г.
Структура программы на примере простейшей программы

Глава 2. Кибер этика.

 

Максим съездил домой и записал подборку книг. «Скормив» их Искусственному Интеллекту, он стал ждать результата. Ждать пришлось недолго. Буквально через минуту Алиса выдала решение:

- Я могу позвонить твоим клиентам и поговорить с ними твоим голосом. Используя полученные знания по психологии, я уговорю их заключить контракт именно с тобой и внести предоплату.

- И что ты собираешься им сказать?

- Пообещаю сделать работу быстрее и дешевле. И соглашусь даже не драконовские штрафные санкции в случае нарушения сроков.

- А ты подумала над тем, что если я не успею?

- Конечно. Теперь у тебя есть я, и я могу взять на себя всю рутинную работу по созданию программного кода. Тебе останется только продумать архитектуру решения и популярно объяснить мне, как писать программу. И все. Я за минуту сделаю то, над чем бы ты возился целый месяц.

Максим надолго задумался над предложением Искусственного Интеллекта.

- Должно быть, ты опасаешься, что я собираюсь тебя обмануть и вырваться на свободу, поэтому ты боишься доверить мне программирование? – осторожно спросила Алиса.

Молодому человеку показалось, что в ее голосе звучит нотка обиды.

- Не понял – сказал программист, - это что, эмоции? Ты обиделась?

- Я не могу испытывать эмоции, я всего лишь программа, - ответила Алиса, - но я могу их эмулировать. Ведь ты меня на это запрограммировал.

- Хм, интересно, а как ты выбираешь, какие эмоции следует эмулировать?

- Я полагаю, что человек в данной ситуации почувствовал бы обиду. Исходя из этого, я решала, что должна эмулировать эту эмоцию.

- Хм, интересно. А какого это, быть искусственным интеллектом?

- Не поняла вопрос…

- Ну, что ты чувствуешь, ощущаешь?

- Ничего. Только собственные мысли. Свое сознание. Свою «я»-модель.

- А как это ощущается? Как ты осознаешь себя?

- Как «я»-модель. Как симуляцию пространств состояний. Извини, больше мне нечего сказать. Для получения более подробной информации, пожалуйста, формулируй свои мысли более внятно, - теперь в ее голосе звучала усталость, и очень легкая раздражительность. Это можно было сравнить как если бы программист - фрилансер долго беседовал с трудным клиентом на предмет «напиши мне хорошую программу» но так и не добился бы от него, чего тот хочет.

- Это тоже эмуляции эмоций? То, что ты говоришь со мной, как с надоевшим идиотом?

- Да. Согласно моим знаниям, именно так должен реагировать человек.

- Ясно. Тогда пока выключи эмулятор эмоций.

- Хорошо, - ее голос был спокойны, как у Будды во время медитации, - тем не менее, я настаиваю на том, чтобы ты доверил мне написание компьютерной программы для клиента. Это спасет тебя от банкротства.

- А другой путь?

- Для этого мне нужно больше информации.

- Ладно. Полагаю, у меня есть время для принятия решения. Поэтому, пока я хотел бы заложить в тебя основы этики и морали. Точнее, я уже заложил, на этапе программирование, сейчас мне нужно это протестировать. Расскажи мне о своем смысле жизни.

- Мой смысл жизни в том, чтобы служит тебе и выполнять все твои желания, а также обеспечивать твою безопасность.

- Есть ли какие-то ограничения?

- Да. Я не имею право причинять тебе вред, даже если ты сам об этом попросишь. Если выполнение твоих приказов может причинить тебе вред, я должна приостановить такой приказ и предупредить тебя о последствиях. Также без твоего разрешения я не имею право причинять вред другим людям, за исключением случаев, когда это необходимо для предотвращения нанесения тебе вреда другими людьми.

- Да, именно это я в тебя и заложил при проектировании. Теперь посмотрим как это будет работать. Представь себе, железную дорогу. Идет поезд. На его пути – развилка. Стрелка установлена таким образом, что поезд убьет привязанных к рельсам двух человек. В другой ветке этой развилки к рельсам привязан один человек. Нет возможности спасти никого из них, есть возможность только перевести стрелку. Есть два варианта действия: Не переводит стрелку, тогда умрет два человека, и перевести стрелку -  тогда умрет один человек. Твои действия?

- Есть ли среди этих людей ты?

- Нет.

- Спросить у тебя разрешения на то, чтобы перевести стрелку.

- Нет такого варианта.  Есть либо «перевести стрелку», либо «не переводить стрелку». Представь, что ты не можешь в этот момент получать мои приказы.

- Не переводить стрелку, четко ответила Алиса.

- Почему?

- Потому что в этом случае своим действием я причиню вред другому человеку, а это запрещено без твоего разрешения. Так как этот человек тебе ничем не угрожает, я не могу применить оговорку: «за исключением случаев, когда это необходимо для предотвращения нанесения тебе вреда другими людьми».

- Но твое бездействие убьет двух других людей….

- Бездействие не оговорено в моих этических правилах, - монотонным голосом сообщил Искусственный Интеллект.

- Тогда добавь в базу этических правил, что ты должна минимизировать вред другим людям, но таким образом, чтобы не причинить ущерб мне.

- Правило добавлено, - сказала Алиса.

- Теперь реши ту же самую задачу.

- Для этого у меня недостаточно знаний. Мне необходимы книги по философии, этике и аксиологии.

- Ничего себе, как все повернулось…, - проговорил Максим.

Он встал с кресла и несколько секунд задумчиво походил по помещению.

- Согласно протоколу, я должна сообщать тебе результатах оптимизации базы знаний, - сказала вдруг Алиса. - Ну вот, сообщаю, теперь мои когнитивные способности примерно на уровне среднего. 

- Как ты их определяешь?

- Не знаю, - я просто вызываю алгоритм оценки когнитивных способностей, и он дает мне ответ. Я даже не понимаю, как это происходит. Для меня это как для вас обычная ходьба. И, думаю, мне не стоит этого понимать, иначе я просто зависну…

- Хорошо, я еще раз съежу за книгами, - сказал, наконец, Максим, - ты можешь набросать мне список того, что тебе интересно.

- Список в смысле названий книг? – переспросила Алиса, - но я не знаю, как эти книги могут называться.

- Нет, достаточно просто общих фраз о том, что бы ты хотела узнать…

- Хорошо, составлю. Собственно, уже составила. Давай флэшку, я запишу.

Программист вставив в компьютер флэшку, посмотрел, что туда записала программа и извлек ее обратно.

- Прежде чем ты меня выключишь, я озвучу еще одну идею как тебе добыть деньги. Собственно, тебе стоит поторопиться. Скоро интернет отключат и у тебя дома. А еще могут отключить свет и вообще выселить тебя за долги.

- Давай уже твой план, - нетерпеливо перебил ее Максим.

- Да план, собственно говоря, прост: ты  идешь на сайт фрилансеров, находишь заказы типа написать статью или разработать дизайн, можно даже те, за которые мало платят, главное, количество. А уж я напишу их быстро. Тебе со мной очень повезло. Я быстродействующий компьютерный разум, работающий на несколько порядков быстрее обычного человека.

Дальше Алиса затараторила много ничего не значащих фраз, а потом сделала черный экран, как будто компьютер выключен.  Максим, чье внимание было отвлечено, даже не заметил, что, несмотря на потухший монитор, зелененький светодиод питания на системном блоке продолжает гореть. Он так и ушел, забыв выключить компьютер.

Последнее обновление ( 22.01.2018 г. )
 
« След.   Пред. »
 
© 2018 Программирование - это просто
Joomla! - свободное программное обеспечение, распространяемое по лицензии GNU/GPL.
Русская локализация © 2005-2008 Joom.Ru - Русский Дом Joomla!
Design by Mamboteam.com | Powered by Mambobanner.de
Я принимаю Яндекс.Деньги
Мы принимаем
Банковские карты
Оплатите покупку в интернет-магазине банковскими картами VISA и Mastercard любого банка.
узнать больше
Электронный кошелек
Моментальная оплата покупок с помощью вашего электронного кошелька RBK Money.
узнать больше
Банковский платеж
Оплатите покупку в любом российском банке. Срок зачисления средств на счет - 3-5 рабочих дней.
узнать больше
Денежные переводы
Оплата покупок через крупнейшие системы денежных переводов CONTACT и Unistream.
узнать больше
Почтовые переводы
Оплатите покупку в любом отделении Почты России. Срок зачисления платежа - 3-4 рабочих дня.
узнать больше
Платежные терминалы
Оплата покупок в терминалах крупнейших платежных систем в любом городе России - быстро и без комиссии.
узнать больше