Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17




НазваниеСодержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17
страница71/78
Дата конвертации11.12.2012
Размер5.58 Mb.
ТипРеферат
1   ...   67   68   69   70   71   72   73   74   ...   78

Обдумывая последствия


Без сомнения, достижения в области искусственного интеллекта должны принести огромную пользу человечеству, и можно легко увлечься энтузиазмом, вызванным этими потенциальными преимуществами. Но в будущем маячат и вполне реальные угрозы, последствия которых могут быть настолько же разрушительны, насколько благотворны преимущества. Различие обычно заключается в точке зрения или положении людей в обществе — то, что для одного человека является прибылью, для другого может быть потерей. Следовательно, необходимо взглянуть на развивающиеся технологии и с альтернативных точек зрения.

Некоторые считают продвижение технологий подарком человечеству — способом избавления людей от скучных, устаревших задач и открытием двери в приятную жизнь. Но для других те же достижения — это проклятие, лишающее людей работы и источника доходов в пользу тех, кто обладает властью. Об этом часто говорил увлеченный гуманист Махатма Ганди, главный вдохновитель Индии на борьбу за освобождение от власти Британии. Он утверждал, что Индия получит больше преимуществ от замены больших текстильных фабрик на прялки в домах сельских жителей. Таким образом, считал он, централизованное массовое производство, дающее работу только нескольким людям, могло быть замещено распределенной системой массового производства, выгодной для множества рабочих.

Корни множества известных революций лежат в несоразмерном распределении богатств и прав. Если современные развивающиеся технологии смогут еще более укрепить это неравенство, это приведет к катастрофическим последствиям.

Однако последствия создания все большего количества интеллектуальных машин не столь явны, они лежат глубже, чем последствия, связанные с противостоянием различных слоев общества. Результаты ударяют по самому сердцу представления человечества о себе. В девятнадцатом веке общество было приведено в смятение эволюционной теорией Чарльза Дарвина и мыслью, что человечество могло произойти от малых жизненных форм. Какой же будет реакция общества, если оно столкнется с атакой машин, умственные способности которых в состоянии бросить вызов человеческому разуму?

Раньше технология развивалась медленно, оставляя достаточно времени для сохранения образа человечества о себе, постепенно изменяя наши понятия об интеллекте. В каком-то смысле мы привыкли определять интеллект как «то, чего машины делать не умеют». Наши древние предки сочли бы, что механические устройства девятнадцатого века обладают сверхинтеллектом, но сегодня мы уверены, что эти машины не демонстрируют даже подобия разума. Но как будет реагировать человечество, если машины всерьез бросят вызов человеческому интеллекту или, что более вероятно, если способности машин будут развиваться быстрее, чем наша возможность адаптироваться к ним?

Вы можете возразить, что подобные вопросы граничат с научной фантастикой, а не с вычислительной техникой. Однако совсем недавно многие отметали вопрос «Как будет реагировать человечество, если компьютеры захватят власть в обществе?» с такой же аргументацией — «Это никогда не произойдет». Но со многих точек зрения этот день уже пришел. Если компьютеризированная база данных выдаст ошибочную информацию о вашей низкой кредитоспособности, неверные данные о преступлении или о превышении чекового счета, кому поверят — утверждению компьютера или вашей клятве в невиновности? Если сбойная навигационная система покажет, что скрытая туманом посадочная полоса находится совсем в другом месте, куда приземлится самолет? Если машина используется для предсказания реакции общества на различные политические решения, какое решение в итоге примет политик? Кто (или что) несет в конечном счете ответственность? Не подчинены ли мы уже машинам? Изменится ли наша оценка текущей ситуации от того, будем ли мы считать, что машины, влияющие на нашу жизнь, делают разумные выводы или просто воспроизводят запрограммированные ответы, даже если результат в обоих случаях одинаков?

Сильный искусственный интеллект против слабого


Гипотеза о том, что машины можно запрограммировать для демонстрации интеллектуального поведения, известна как слабый искусственный интеллект и считается нормальной (до определенных пределов) большей частью человечества. Однако предположение, что в машинах можно запрограммировать реальную мыслительную деятельность, то есть фактически сознание, что известно под названием сильного искусственного интеллекта, широко оспаривается. Оппоненты сильного искусственного интеллекта утверждают, что машина по своему существу отличается от человека и поэтому никогда не сможет чувствовать любовь, отличать правду от лжи и думать о себе так же, как это делает человек. Защитники же сильного интеллекта считают, что человеческий разум составлен из небольших компонентов, которые по отдельности не являются людьми и не обладают сознанием, но все вместе образуют разумного человека. Почему же, спрашивают они, то же самое невозможно с машинами?

Проблема с разрешением спора о сильном искусственном интеллекте, как можно понять из текста, состоит в том, что разум и сознание — это внутренние характеристики, которые невозможно распознать явно. Как говорил Алан Тьюринг, мы считаем других людей разумными, потому что они ведут себя разумно — хотя мы не можем увидеть их внутреннее ментальное состояние. Тогда готовы ли мы допустить подобную самостоятельность мышления машины, если она выказывает внешние признаки разумности? Почему да? Почему нет?

Можно разгадать загадку потенциальной реакции человечества на машины, интеллект которых сравним с нашим, рассмотрев отношение общества к IQ-тестам в середине двадцатого века. Эти тесты должны были выявлять уровень интеллекта детей. Дети в США зачастую классифицировались по результатам тестов и в соответствии с ними направлялись на обучение по соответствующим образовательным программам. Таким образом, возможность обучаться была у тех детей, которые хорошо справились с тестом, а дети, получившие низкие оценки, направлялись на корректирующие программы обучения. Вкратце, если есть шкала, по которой можно измерить уровень интеллекта человека, то общество начинает пренебрегать возможностями тех, кто оказался на нижнем конце шкалы. Что же будет делать общество, если «интеллектуальные» способности машин станут сравнимыми или хотя бы будут выглядеть сравнимыми с человеческими способностями? Будет ли общество избавляться от тех представителей, которые показали себя «глупее» машин? Если да, то каковы будут последствия для этих членов общества? Должно ли человеческое чувство собственного достоинства зависеть от того, насколько человека можно сравнить с машиной?

Мы уже начали замечать, что интеллектуальной мощи людей в определенных областях противопоставляются способности машин. Сейчас машины могут победить экспертов в шахматах, компьютеризированные экспертные системы могут давать медицинские советы, а эффективность портфелей, которые формируют простые программы, часто превосходит результативность портфелей специалистов по инвестициям. Как подобные системы влияют на самомнение вовлеченных в проблему людей? Что произойдет с самооценкой человека, если машины начнут превосходить его все в новых и новых областях?

Многие утверждают, что интеллект, демонстрируемый машинами, по своей сущности всегда будет отличаться от человеческого разума, так как люди являются биологическими индивидуумами, а машины — нет. Поэтому, считают они, машины никогда не смогут воспроизвести процесс принятия решения человеком. Машины могут придти к тем же выводам, что и люди, но они будут сделаны на основе совершенно других знаний и схем, чем у людей. До какого же предела простираются различия между этими видами разума и будет ли этично для общества следовать путями, предложенными не человеческим разумом?

Мы завершим обсуждение следующей цитатой из книги Джозефа Вайзенбау-ма «Computer Power and Human Reason», в которой он выступает против непроверенных приложений компьютерных технологий:

Компьютеры могут выносить судебные решения, компьютеры могут делать психиатрические заключения. Они могут подбрасывать монетку куда более изощренными способами, чем самый настойчивый человек. Дело в том, что им не следует задавать подобные задачи. Временами они могут даже находить «правильные» решения, но всегда и обязательно путями, с которыми не сможет согласиться ни один человек.

Много споров велось и ведется о «компьютерах и разуме». Я хочу сказать, что подобные исследования не являются ни технологическими, ни даже математическими; они относятся к вопросам этики. Такие проблемы нельзя решать, задавая вопросы, которые начинаются с «можно». Ограничения приложений компьютеров всегда необходимо формулировать в терминах моральных обязательств. Даже элементарная интуиция говорит нам о том, что если мы не обладаем возможностями сделать компьютеры умными, мы не должны давать им задачи, требующие ума.
1   ...   67   68   69   70   71   72   73   74   ...   78

Похожие:

Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconОсновы работы с Sharepoint в какое место веб-страницы разрешается вставить новую веб-часть (в браузере)?
В какое представление веб-страницы будут вноситься изменения, если выбрать команду Настроить эту страницу?
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconВведение в физику и технологию элементной базы ЭВМ и компьютеров
Введение   8
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconСодержание
Содержание размещают после титульного листа отчёта (как правило, на стр. 2). Слово «Содержание» рас­полагают посередине страницы...
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconСоздание веб-страницы в простом текстовом редакторе
Давайте создадим  веб-страницу. Для этого нужно напечатать ее исходный код в простом текстовом редакторе  блокнот
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconЗагрузка uploading теория
После того как набор html страниц веб-сайта создан. Все они связаны между собой с помощью ссылок. Страницы наполнены контентом. Таким...
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconЛитература 153 Алфавитный указатель 155 Предисловие редактора русского издания Глубокоуважаемые коллеги! Содержа­ние этой книги значительно шире и глуб­же, нежели заявлено в ее названии. Я бы назвала ее «Лечение и реставрация молочных зубов»
Предисловие редактора русского издания 6 Введение 9 Предисловие 11 Благодарности 13
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 icon        Информатика  Системы счисления и  арифметические основы эвм  
Введение   
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconЯндекс - поисковая машина, способная по вашему запросу найти в русскоязычной части интернета наиболее подходящие веб-страницы, новости, картинки, статьи
Яндекс — поисковая машина, способная по вашему запросу найти в русскоязычной части интернета наиболее подходящие веб-страницы, новости,...
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconВзаимодействие веб-сайтов по культуре с пользователем. 
Предисловие к русскому изданию   4 
Содержание предисловие 2 веб-страницы 3 введение 6 1архитектура ЭВМ 17 iconВзаимодействие веб-сайтов по культуре с пользователем. 
Предисловие к русскому изданию   4 
Разместите кнопку на своём сайте:
kak.znate.ru


База данных защищена авторским правом ©kak.znate.ru 2012
обратиться к администрации
KakZnate
Главная страница