Искусственный интеллект возможен ли
Можно ли создать искусственный разум?
Человечество веками грезило об искусственном разуме. Кажется, еще немного, и заветная цель будет достигнута, однако стоит спросить себя: возможно ли решение данной задачи в принципе? Что такое искусственный разум, долженствующий окончательно уравнять человека с Богом? Позволю высказать собственное – надеюсь, отличное от расхожего, – мнение. Как правило, искусственный разум отождествляется с человеческим разумом, то есть речь идет о создании искусственного человека. В таком случае неплохо понимать, что такое естественный человек, которого предлагается производить искусственно. Что же такое человек – самый обычный, так сказать, натуральный? Он существует на двух уровнях, несомненных для любого (как научного, так и обыденно-практического) восприятия:
- на уровне материи,
- на уровне разума, который и предполагается искусственно воспроизвести. Заключенный в черепную коробку мозг вполне материален, однако разум – это нечто иное, качественно отличное от материи. С этим трудно поспорить.
- считаем «крайним» мозг зеленых человечков – значит, что зеленые человечки являются разумными существами;
- выясняем, что «мозг» зеленых человечков представляет собой устройство, воспринимающее сигналы с Проксимы Центавра – о да, да тут полная ясность, настоящие разумные существа находятся на Проксиме Центавра;
- ах, на Проксиме Центавра только управляющие передатчики, вы говорите? – ну тогда разумные существа находятся где-то подале, изготовил же кто-то эти управляющие передатчики?
1. Человекоподобие.
В кинематографе роботы обычно имеют формы, приближенные к человеческим, но при создании искусственного разума это не обязательно. Пусть утюг, лишь бы утюг мыслящий – для решения нашей задачи достаточно.2. Сложность.
Устройство человека несомненно сложней устройства утюга. Хотя утюг – не самое сложное из изобретений человечества: некоторые из современных машин по уровню сложности сопоставимы с человеческим мозгом, хотя бы в том смысле, что находятся за гранью понимания рядового обывателя. В целом, принимается.3. Способность к саморазвитию.
Вполне программируемая способность: достаточно учитывать в алгоритмах все предшествующие сигналы и собственные реакции – другими словами, основываться на прошлом опыте.4. Непредсказуемость.
Человек в силу сложности своего устройства более непредсказуем, чем утюг. Более – потому что утюг тоже не всегда предсказуем: к примеру, после втыкания штепселя в розетку он может и не включиться (по причине поломки), а может треснуть или загореться (по причине более серьезной неисправности). Конечно, перечень возможных реакций утюга на включение в розетку ограничен, но и перечень человеческих реакций тоже: если вам наступили на ногу, скорей всего, виновник извинится либо промолчит – крайне маловероятно, что он улыбнется вам двести пятьдесят раз, затем помашет ушами и взмоет в поднебесье. Впрочем, сделать искусственный разум по-человечески непредсказуемым несложно: нужно лишь вставить в алгоритм генератор случайных чисел.5. Упрощая или усложняя?
Материал, из которого создан искусственный разум, может быть любым, не обязательно биологическим. Но может быть и биологическим. В этом случае возникает побочный вопрос: насколько деятельным должно быть участие в биологическом, по сути природном, процессе строителя искусственного разума? Должен ученый позаимствовать у природы живую клетку и вырастить искусственный разум из нее, или для этого, чтобы разум считался в полной мере искусственным, необходимо модифицировать взятую у природы живую клетку, или же ученый может, для создания искусственного интеллекта, пользоваться готовыми клеточными блоками? Допустим, создатель искусственного разума, действуя по примеру Франкенштейна, находит пару неостывших трупов, у первого трупа ампутирует левое полушарие, у второго трупа – правое, затем соединяет полушария и получает функционирующий мозг? Этот мозг, составленный из полушарий разных людей, обладает искусственным или естественным интеллектом? Если естественным, где граница между искусственным и естественным? А если бы ученый взял у мозга единственную клетку и из нее вырастил цельный мозг, был бы выращенный разум искусственным и естественным?.. Если же ответ отрицательный, если соединение левого и правого полушарий дает искусственный мозг… тогда вообще черт знает что получается, знаете ли. Получается, достаточно изъять из натурального мозга одну клетку, как мозг становится искусственным. То есть дело не в методах, которыми ученый пользуется, а в результате:- при изменении разума в результате действий ученого (по сути, в результате воздействия внешних факторов, хотя бы минимальных) – разум искусственный;
- разум в первоначальном состоянии – естественный.
6. Душа.
Часто в разговорах об искусственном разуме апеллируют к душе: дескать, вы попробуйте создать думающую машину с человеческой душой, вот тогда… Ну, это смотря что понимать под душой: если некоторые психофизические особенности (психо – в смысле реакции на внешние раздражители, физические – в смысле физического устройства), тогда техника обладает всеми перечисленными качествами. Устройство у каждого прибора свое, практически всегда с индивидуальными особенностями: с этой стороны типовые приборы ничем не отличаются от людей, скроенных по единому лекалу, вместе с тем сугубо индивидуальных. Что же касается психо-особенностей, то есть реакции на внешние раздражители… Вы только мне не рассказывайте, что приборы не обладают психофизическими особенностями. Лет двадцать назад у меня был самодельный компьютер, подключаемый к телевизору, так этот урод частенько не мог прочитать дискету (тогда были пятидюймовые). Садишься к такому компьютеру и никогда не знаешь, удастся тебе поиграть в тетрис или не удастся. Короче говоря, этот электронный ублюдок работал по настроению. Потребовались десятилетия корпоративной дрессуры, чтобы его потомки, мало похожие на самодельного пращура, научились функционировать стабильно. Хотя норов у технических устройств, даже новейших, время от времени все равно проявляется… А вы говорите, у техники нет психофизических особенностей!7. Полная человеческая копия.
Приверженцы искусственного разума могут потребовать полного копирования человека, то есть человека во плоти.Спросим их: а что, разве люди не самовоспроизводятся, то есть не копируются другими людьми? Что значит «искусственно»? Обычно под этим словом понимается: созданное человеком. Однако младенцы производятся не на небесах, а именно людьми, хотя и в предписанном Богом порядке: в этом смысле естественный ребенок будет отличаться от искусственного не больше, чем деталь, произведенная на конвейере с соблюдением правил безопасности, от детали, произведенной вручную без соблюдения правил безопасности. Допустим, слесарь постарался и вручную слепил не хуже. А оно того стоило, если результат неотличим от конвейерного?! Совсем по профессору Преображенскому, не так ли? «Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого. Доктор, человечество само заботится об этом и в эволюционном порядке каждый год упорно, выделяя из массы всякой мрази, создаёт десятками выдающихся гениев, украшающих земной шар».
К слову, человеческий клон обладает искусственным или естественным разумом? Нет, как хотите, а в самом понятии «искусственный разум» кроется противоречие. Когда мы говорим «разум», то подразумеваем собственный человеческий разум, который в силу нашей природной сущности является крайней лично для нас информационной системой. Мы не может узнать устройство собственного головного мозга: можем – устройство мозга другого человека, хотя данное знание не будет для нас абсолютно убедительным. Помню, в детстве я очень удивился, когда мне сделали рентген вывихнутого запястья, и стало видно, что под кожей находятся кости. Я-то был уверен, что устройство моей руки не как у всех… Искусственный разум потому и разум, что извне ничего нет: никакой определяющей его внешней информационной системы. С другой стороны, «искусственный» подразумевает – нами же и сотворенный. Однако, как можно что-то сотворить, не понимая его устройства? Данный способ совпадает с упомянутым выше естественным деторождением. Возможно, конечно, сконструировать искусственный разум из отдельных блоков, устройство которых нам неизвестно. Это аналогично соединению в единый мозг полушарий, ампутированных у разных людей – данный вариант я рассматривал. А собрать искусственный разум из простейших частей и при этом не понимать порядка сборки… уверяю, сие никак невозможно. Или придется вывести полученную конструкцию из собственного информационного поля. К примеру, отец заводит ключиком механического медвежонка, который представляется его ребенку живым. А сам отец игрушечного медвежонка живым не воспринимает: обладая познаниями взрослого человека, попросту не может — если, конечно, не помолодеет лет на тридцать. Нет, вариант с созданием искусственного человека и последующим собственным оглуплением не проходит.Что получаем в итоге? А вот что: разговоры о создании искусственного разума не корректны. Но если подразумевать под мыслящим искусственным существом человекоподобную машину со сложными и не вполне предсказуемыми реакциями, напоминающими человеческие, тогда, конечно, искусственный интеллект может быть создан. Правда, подобные устройства не вполне прагматичны: лучшую перспективу имеют специализированные механизмы, предназначенные для глажения одежды, перевозки людей, передачи информации и т.п. Мыслящие утюги, короче.
Теги:- искусственный разум
- искусственный интеллект
habr.com
9 наивных вопросов об искусственном интеллекте
Над определением искусственного интеллекта (ИИ) бьются математики, программисты, футуристы и философы. С одной стороны, это масштабная междисциплинарная область исследований на стыке математики, лингвистики, программирования и психологии.
С другой стороны, ИИ — это математический алгоритм, благодаря которому создаются интеллектуальные компьютерные программы. Они так названы потому, что могут выполнять функции, которые принято считать прерогативой человека. Например, написать стих или музыку, вести беседу.
ИИ создаётся для решения конкретных задач — все подобные системы узкоспециализированы и не могут выполнять несколько функций сразу. Если программа предназначена для расшифровки человеческой речи, она никогда не сможет играть в карточную игру.
Принято различать слабый и сильный ИИ. Когда компании заявляют, что создали продукт с искусственным интеллектом, имеются в виду слабые его варианты: это автопилоты, голосовые помощники, переводчики. Рассуждения о сильном ИИ, том самом, который сможет мыслить и осознавать себя (то есть фактически стать в один ряд с человеческим разумом), остаются пока научной и философской дискуссией.
Слабый искусственный интеллект при переводе текста заменяет одни слова на другие по определённому алгоритму, а сильный — самостоятельно сможет понимать смысл предложения. Вот в чём главное отличие.
Нет, речь идёт об очень близких и взаимозависимых понятиях, но всё-таки это не одно и то же. Вернёмся к определению: ИИ — масштабная междисциплинарная область исследований (как география).
В этой области есть несколько специализированных направлений знаний, одним из которых является машинное обучение. Наряду с ним выделяют обработку текста на естественном языке, виртуальных помощников, системы рекомендаций. Это как физическая, экономическая или социальная география.
Спускаемся ещё на ступень ниже. Нейросеть — один из подразделов машинного обучения, математический алгоритм с автоматизированной настройкой параметров. Всего существует четыре основных подраздела (способа) машинного обучения: классическое, с подкреплением, ансамблевые методы и нейросети. Представьте, что это география океанов в разделе мировой физической географии.
А куда в таком случае отнести роботов? Чат-боты, роботы, автоматические переводчики, сканеры — всё это финальный результат и формат представления технологии ИИ.
Конечно! Мы используем его для самых разных задач. Например, Т9 предугадывает слово, которое вы пишете, — это ИИ распознаёт сочетание букв и предлагает один из вариантов, имеющихся в его базе. Домашний робот-помощник, реагирующий на голосовые команды, — пример действия технологии. Siri — это тоже искусственный интеллект.
Да, он уже умеет обучаться и совершенствоваться. Например, Google создала ИИ, который самостоятельно осваивал древнекитайскую настольную игру го, обучаясь на основе промахов и побед.
Однако стоит помнить, что самообучение — это не обязательный признак искусственного интеллекта. Существуют системы, которые просто очень хорошо выполняют определённую задачу и в которые «не вписали» функцию обучения. К таким можно отнести роботов, работающих на производстве и занимающихся сортировкой.
Да, существуют такие компьютерные системы, которые могут распознавать эмоции по мимике человека во время беседы. Программа оценивает положение ключевых точек лица (бровей, глаз, носа, челюсти и губ) и сопоставляет с признаками возможных эмоций, которые записаны в её код.
Более того, системы умеют изображать эмоции, используя смайлики или эмодзи. В основе такой манипуляции очень простая логика: базовые эмоции (радость, веселье, обиду) легко предсказать и симулировать, опираясь на триггерные слова («спасибо», «жаль», «обидно» и другие).
И предупреждая следующий вопрос: нет, испытывать эмоции ИИ не может. Они сформировались у человека в процессе эволюции и социализации. Подобная система реагирования присутствует и у животных — они испытывают радость, ярость, беспокойство и так далее. Но только человек дополнил этот спектр способностью рационального мышления.
С одной стороны, это довольно бессмысленный вопрос, потому что нет универсальной шкалы измерения интеллекта. Например, мы знаем, что сердечный ритм здорового человека — примерно 60 ударов в минуту. Но как измерить ум? В количестве прочитанных книг, знании таблицы Менделеева или умении давать ответы на любые вопросы? Можно ли считать кошку умнее белки, а орла — умнее гадюки? А как сравнить интеллект физика-астронома и хирурга?
Существует популярный тест на измерение коэффициента интеллекта (IQ) Ганса Айзенка, но считать его универсальным критерием категорически нельзя. У людей мозг работает по-разному и «заточен» под тот или иной вид деятельности. Пока не будет критерия, на который можно ориентироваться как на абсолютный показатель, не будет и подобного рейтинга.
С другой стороны, когда мы говорим «машины станут умнее человека», мы скорее подразумеваем, что они станут разумнее. А разум гораздо шире интеллекта, он формируется в процессе жизни и зависит от миллиарда различных факторов. Пока учёные и фантасты предполагают единственно возможный (но ещё не реализованный) вариант, при котором ИИ станет разумнее человека: если технология будет воплощена на основе молекул ДНК, а не путём моделирования нейросетей.
Нет. Для того чтобы оценить действия, человеку помимо мыслительного процесса требуются моральные установки, эмоции и культурные нормы, которые меняются с течением времени. Технологии это (по крайней мере, пока что) недоступно.
Да, возможно. Это программа, которая управляется человеком. А любую программу можно взломать.
Несмотря на то что мы видели массу сюжетов, в которых роботы становятся агрессивными монстрами, блокируют жизнь городов, захватывают секретную информацию и творят прочие преступления, это возможно только в кино.
ИИ выполняет исключительно те задачи, которые были в него заложены программистом. Самостоятельную постановку целей технология не предусматривает. Искусственный интеллект может оказаться в руках преступников и причинить вред, но речь снова идёт о воле человека.
Иной вариант развития событий может возникнуть, только если будет решена проблема сильного ИИ. На сегодняшний день это невозможно. Поэтому все рассуждения о вероятном порабощении человечества искусственным интеллектом не имеют под собой реальной почвы.
Читайте также 🧐
lifehacker.ru
Можно ли создать искусственный интеллект, которому мы будем сопереживать | Rusbase
В книгах фантастов можно встретить примеры искусственного интеллекта, за который переживаешь, как за реального человека. Умные машины умеют вызывать искренние чувства и эмоции на страницах книг, в видеоиграх и кино. Но сможет ли появиться такой «живой» искусственный интеллект в реальности?
Ирландская писательница Мария Фаррел поделилась своими мыслями о том, что нужно для создания эмоциональной связи между ИИ и человеком.
Можно ли создать искусственный интеллект, которому мы будем сопереживать Вероника ЕлкинаВ романе Нила Стивенсона «Алмазный век» рассказывается о нанотехнологическом будущем, в котором есть умная книга — «Букварь для благородных девиц». Эта книга становится учителем, матерью и другом одной героини, и когда читаешь роман, поневоле проникаешься любовью к интерактивному устройству. Еще один пример — ИИ Лавлейс, который управляет кораблем в романе Беки Чамберс «Долгий путь к маленькой сердитой планете». Когда с кораблем что-то случается, вы переживаете, как за живого человека.
В обеих книгах искусственный интеллект ощущается, как живое существо. Причем ощущения настолько яркие, что людям хочется, чтобы такой ИИ существовал на самом деле — совсем как многим захотелось жить на Пандоре после выхода фильма Джеймса Кэмерона «Аватар».
Реально ли создать такой ИИ?
В отличие от того, как это бывает в книгах, живой искусственный интеллект не может внезапно появиться после долгих вычислений. Забудьте про киберпанк девяностых — сознание не может родиться в сети, какой бы большой и сложной она ни была. Точно так же нельзя создать жизнь, просто вскипятив чашку Петри, и успокоить ребенка, просто его покачав. Сложный вопрос сознания не может внезапно сам себя решить одной темной ночью на какой-нибудь ферме серверов.
Программа, которая сможет создать разумный ИИ, находится за пределами нашего воображения. А с точки зрения инженерии, такому искусственному разуму понадобятся процессоры совершенного нового вида. Вычисления потребуют параллельной обработки данных такого масштаба, что скорее всего придется перейти на квантовые вычисления. Так что, скорее всего, мы сначала успеем колонизировать Марс, прежде чем разумный искусственный интеллект станет возможен.
Кадр из игры Detroit: Become Human
А еще нужно будет разработать поведенческие деревья с гораздо большим выбором, чем у простых ИИ-ассистентов, чтобы получилась полноценная цифровая персона. Как это сделать? Спросите писателя. Кэтрин Брэди описывает в своей книге «Логика истории и мастерство литературы» процесс создания глубины персонажа. По ее словам, в слова и действия качественных персонажей можно поверить и главное понять на интуитивном уровне.
Так что пока не существует простого и быстрого способа создания ИИ с глубокой личностью, который сможет самостоятельно думать и чувствовать.
Перспективы будущего
Год назад я написала несколько коротких текстов о скором научно-фантастическом будущем для специального проекта о том, что нас ждет интернете в следующие 25 лет. Другие участники проекта заметили, что в Северном полушарии будущее в основном видят пессимистично, в то время как жители развивающихся стран радуются технологиям, которые помогают им поддерживать связь друг с другом.
Тогда я написала выдуманную новостную статью про искусственный интеллект по имени Миши, который отличается от традиционных цифровых ассистентов. Имя Миши переводится с африканского языка га как «счастье, восторг». Обычные цифровые помощники стараются удержать пользователя в экосистеме и убедить его купить разные вещи, а Миши всегда на стороне человека и ничего ему не навязывает.
Иллюстрация: Элизабет Махони
Я считаю, что сингулярность — в какой бы степени она, наконец, ни проявилась — будет намеренной. И если мы хотим действительно получить желаемый разумный ИИ, то нужно начать с решения самых сложных проблем и вопросов, а не нацеленных на выгоду бизнес-решений.
Представьте, что было бы, если бы мы использовали искусственный интеллект для улучшения и дополнения собственных мозгов, а не для того, чтобы тот впаривал нам ненужные товары? Что, если бы он помогал нам создавать интеллект, значительно превосходящий наш и обладающий спектром ощущений, о котором даже не мечтали фантасты? Что, если бы ИИ не был нашим питомцем (или, наоборот, мы — его), а мы могли бы жить с ним на равных, как с родственным видом, который помогает нам стать лучше?
Жизнь среди машин может показаться антиутопией, но, возможно, такой расклад удовлетворит стремление человечества к чему-то неизвестному и доселе недостижимому. И, чтобы сделать к ней первый шаг, нужно просто ее представить.
Источник.
Материалы по теме:
Искусственный интеллект приблизится к человеческому, когда научится осязанию
Эта программа на основе ИИ может вас переспорить, однако не понимает, о чем говорит
Роботы предпочитают, чтобы им грубили
Если ИИ будет думать, как человек, он впадет в депрессию
rb.ru
Возможно ли создать сильный искусственный интеллект, не копируя человеческий мозг?
Необходимым условием наступления технологической сингулярности является создание «сильного искусственного интеллекта» (artificial superintelligence, ASI), способного самостоятельно модифицировать себя. Важно понимать, должен ли этот ИИ работать как человеческий разум, или хотя бы его платформа быть сконструированной аналогично мозгу?
Мозг животного (включая человека) и компьютер работают по-разному. Мозг является трехмерной сетью, «заточенной» под параллельную обработку огромных массивов данных, в то время как нынешние компьютеры обрабатывают информацию линейно, хотя и в миллионы раз быстрее, чем мозги. Микропроцессоры могут выполнять потрясающие расчеты со скоростью и эффективностью, значительно превышающими возможности человеческого мозга, но они используют совершенно другие подходы к обработке информации. Зато традиционные процессоры не очень хорошо справляются с параллельной обработкой больших объемов данных, которая необходима для решения сложных многофакторных задач или, например, распознавания образов.
Разрабатываемые сейчас нейроморфные микросхемы призваны обрабатывать информацию параллельно, аналогично мозгу животных, используя, в частности, нейронные сети. Нейроморфные компьютеры, возможно, будут использовать оптические технологии, которые дадут возможность производить триллионы одновременных вычислений, что даст возможность смоделировать более-менее точно весь человеческий мозг.Проекты Blue Brain Project и Human Brain Project, финансируемые Европейским Союзом, правительством Швейцарии и IBM, ставят задачу построить полноценную компьютерную модель функционирования человеческого мозга с помощью биологически реалистичного моделирования нейронов. Human Brain Project направлен на достижение функционального моделирования человеческого мозга к 2016 году.
С другой стороны, нейроморфные чипы позволят компьютерам обрабатывать данные от «органов чувств», обнаруживать и прогнозировать закономерности и учиться на своем опыте. Это огромный шаг вперед в области искусственного интеллекта, заметно приближающий нас к созданию полноценного сильного ИИ, т.е. компьютера, который мог бы успешно решать любые задачи, которые теоретически может решить человек.
Представьте себе такой ИИ внутри человекоподобного робота, который выглядит и ведет себя как человек, но гораздо быстрее обучается и может выполнять практически любые задачи лучше, чем Homo Sapiens. Эти роботы могли бы обладать самосознанием и/или чувствами, в зависимости от того, как бы мы решили их запрограммировать. Роботам-рабочим это все ни к чему, но что насчет «социальных» роботов, живущих с нами, заботящихся о детях, больных и пожилых? Разумеется, было бы здорово, если бы они могли полноценно общаться с нами; если бы они обладали сознанием и эмоциями как мы? Немного напоминает AI в фильме Спайка Джонса «Она» (Her).
В не слишком отдаленном будущем, возможно даже меньше, чем через двадцать лет, такие роботы могут заменить человека практически на любой работе, создавая общество изобилия, где люди могут проводить время так, как им захочется. В этой реальности высококлассные роботы будут двигать экономику. Продовольствие, энергия и большинство потребительских товаров будут бесплатны или очень дешевы, а люди будут получать ежемесячно фиксированное пособие от государства.
Все это звучит очень красиво. Но что насчет ИИ, который значительно превзойдет человеческий разум? Искусственный сверхразум (ASI), или сильный искусственный интеллект (СИИ), обладающий способностью обучаться и совершенствовать себя и потенциально могущий стать в миллионы или миллиарды раз умнее, чем самые умные из людей? Создание такого существа теоретически может привести к технологической сингулярности.Футуролог Рэй Курцвейл считает, что сингулярность наступит в районе 2045 года. Среди критиков Курцвейла — соучредитель Microsoft Пол Аллен, который считает, что до сингулярности еще далеко. Аллен считает, что для постройки такого компьютера сначала необходимо досконально разобраться в принципах работы человеческого мозга, и чтобы эти исследования по какой-то причине резко ускорились, как цифровые технологии в 70-90 годах, или медицина чуть раньше. Но в реальности, наоборот, исследования работы мозга требуют все больше усилий и приносят все меньше реальных результатов — он называет эту проблему «торможением из-за сложности».
Не вмешиваясь в спор между Полом Алленом и Рэем Курцвейлом (его ответ на критику Аллена), я бы хотел обсудить, является ли абсолютно необходимым для создания СИИ полное понимание и симуляция работы человеческого мозга.
Для нас вполне естественно считать себя как вид вершиной эволюции, в том числе интеллектуальной, просто потому, что так сложилось в биологическом мире на Земле. Но это не значит, что наш мозг является совершенным, и что другие формы высшего разума не могут работать как-то иначе.Наоборот, если инопланетяне с превосходящим наш интеллектом существуют, практически невероятно, что их разум будет функционировать так же, как наш. Процесс эволюции является случайным и зависит от неисчислимого множества факторов, и даже если жизнь будет создана заново на планете, идентичной Земле, она бы не стала развиваться так же, и, соответственно, через N миллиардов лет мы бы наблюдали совсем иные биологические виды. Если бы не случилось Массового пермского или какого-нибудь другого глобального вымирания? Нас бы не было. Но это не значит, что другие животные не доэволюционировали бы до развитого интеллекта вместо нас (а вполне вероятно, что их интеллект был бы более развит за счет форы в миллионы лет). Возможно, это были бы какие-нибудь разумные осьминоги с совершенно иной структурой мозга.
Человеческие эмоции и ограниченность подталкивают нас к идее, что все хорошее и разумное должно быть устроено так же, как мы. Эта ошибка мышления привела к развитию религий с антропоморфными богами. Примитивные или упрощенные религии, как анимизм или буддизм, часто либо имеют не-человекообразное божество, либо не имеют богов вообще. Более эгоистичные религии, поли- или монотеистические, как правило, представляют бога или богов в виде сверхлюдей. Но мы не хотим сделать ту же ошибку при создании искусственного сверхразума. Сверхчеловеческий разум не должен быть «увеличенной» копией человеческого, и компьютер не должен быть аналогичным нашему биологическому мозгу. Человеческий мозг — блестящий результат четырех миллиардов лет эволюции. Или, правильнее сказать, крошечная веточка в Великом Древе Эволюции. Птицы имеют гораздо меньший мозг, чем млекопитающие, и их часто считают весьма глупыми животными. Но, например, вороны имеют психологические навыки примерно на уровне дошкольника. Они проявляют сознательное, инициативное, целенаправленное поведение, вырабатывают навыки решения задач и даже могут использовать инструменты. И все это с мозгом размером с фасолину. В 2004 году исследование в отделе поведения животных и экспериментальной психологии Кембриджского университета показало, что вороны практически так же умны, как человекообразные обезьяны. Разумеется, нет необходимости повторять человеческий мозг в деталях для проявления сознания и инициативы. Интеллект зависит не только от размера головного мозга, количества нейронов или сложности коры, но и, например, от отношения размера мозга к массе тела. Поэтому коровы, мозг которых по размеру аналогичен мозгу шимпанзе, глупее ворон и мышей. Но как же компьютеры? Компьютеры это, фактически, только «мозги», они не имеют тел. И действительно, когда компьютеры становятся быстрее и эффективнее, их размер, как правило, уменьшается, а не увеличивается. Это еще одна причина, почему мы не должны сравнивать биологический мозг и компьютеры.Как Курцвейл объясняет в своем ответе Аллену, знания о том, как работает человеческий мозг, могут только натолкнуть на какие-то пути решения конкретных задач в разработке ИИ, правда, большинство этих задач постепенно решается и без помощи нейрофизиологов. Мы уже знаем, что «специализация» отделов мозга в основном происходит посредством обучения и обработки собственного опыта, а не «программирования». Современные ИИ-системы уже вполне могут учиться на своем опыте, например, IBM Watson большую часть своих «знаний» собрал, самостоятельно читая книги.
Так что, нет оснований быть уверенными, что невозможно создать искусственный сверхразум, не разобравшись сперва в работе своего мозга. Компьютерный чип по определению устроен иначе, нежели биохимические нейронные сети, и машина никогда не будет чувствовать эмоции так же, как мы (хотя она может испытывать иные эмоции, находящиеся вне человеческого понимания). И несмотря на эти различия, компьютеры уже могут приобретать знания самостоятельно, и скорее всего, это у них будет получаться все лучше, даже если они учатся не так же, как люди. И если дать им возможность улучшать себя, машины вполне могут сами запустить небиологическую эволюцию, ведущую к сверхчеловеческому интеллекту, и в итоге к сингулярности.
Теги:- сильный ии
- футурология
- сингулярность
- слава роботам!
habr.com
Разум и чувства. Когда искусственный интеллект превзойдет человека | Технологии
Самым главным свойством персептрона было так называемое обратное распространение ошибки. Это поле элементов (узлов), связанных друг с другом в сеть (матрица). Первоначально они одинаково реагируют на входящий сигнал — например оставляют его таким, как он был. Но допустим, мы хотим научить персептрон отличать буквы друг от друга. Мы подаем на вход то А, то Б, то Г в случайном порядке. Модель изначально не знает ничего ни про один из объектов, но ей дается обратная связь, по которой создается функция ошибки, определяющая, сильно ли ошиблась модель. В случае угадывания буквы функция выдает ноль (это значит, что ошибки нет). По мере того, насколько далек персептрон от правильного ответа, значение функции увеличивается. Сигнал об ошибке подается обратно на вход, что приводит к коррекции модели: у узлов в матрице менялись веса. В итоге персептрон запоминал свое состояние при определенных наборах входных объектов, то есть обучался.
Термин «обучение модели», к собственно обучению не имел никакого отношения. На самом деле, состояние модели приходило к равновесию после нескольких циклов обратного распространения ошибки. Также маятник приходит к равновесию после того, как его раскачали. Но сам факт, что модель могла запоминать свое состояние и оставаться в нем, похож на процесс обучения человека. Модель показалась ученым интересной и позже легла в основу первой нейронной сети.
Дальнейшее развитие теории нейросетей переживало многочисленные взлеты и падения на протяжении десятилетий. Среди наиболее известных открытий были первая модель искусственного интеллекта — Logic Theorist (LT, «логический теоретик»), изобретенная в 1956 году Алленом Ньюуэлом и Гербертом Саймоном, и «Элиза» — программа, поддерживающая разговор на английском языке на любую тему, созданная в 1965 году Джозефом Вайзенбаумом. Однако оказалось, что компьютерные возможности того времени не позволяли применять нейронные сети для более практических целей. В частности, для распознавания техники вероятного противника, на что так надеялись военные.
На 1990-е годы пришелся новый расцвет нейросетей. Достижения исследователей в области Data Mining (извлечения данных), машинного понимания и перевода языка, компьютерного зрения и других областях снова сделали актуальными изучение возможностей искусственного интеллекта. Развитие скорости процессоров и снижение стоимости памяти дали ученым возможность обучать нейросети быстрее и на более или менее реальных задачах. Но оказалось, что данных и ресурсов для обучения было мало, нейросети были «недостаточно разумны» — выдавали большой процент ошибок. Поэтому они нашли применение в специализированных задачах, например, распознавании символов, а общий интерес к искусственному интеллекту снова упал.
Нейроны человека и нейросети
Имеют ли нейросети какое-то отношение к нейронам в голове человека и можно ли называть их интеллектом?
Современное представление о процессе мышления человека основывается на том, что нейроны в коре головного мозга могут связываться друг с другом своими отростками-аксонами, периодически получая от «соседей» сигналы и переходя из базового в возбужденное состояние. В головном мозге человека насчитывается около 85—86 млрд нейронов, и один нейрон может иметь связи со многими (до 20 тысяч) другими нейронами. Тот факт, что эта структура способна мыслить, всегда привлекал внимание ученых.
Термин «искусственный интеллект» («artificial intelligence») был изобретен и впервые озвучен в 1956 году американским ученым Джоном Маккарти. В описание модели персептрона, о которой было рассказано выше, уже в 50-х – 60-х были введены статистические понятия узлов, сети и весов, и эти узлы под влиянием работ того времени по изучению человеческого мозга назвали нейронами.
В ходе развития искусственного интеллекта появилось множество типов сетей. В нашем мозге происходят одновременно и процессы распознавания образов, и текста, и картинок, и все это откладывается в памяти. Компьютерные же нейросети не столь универсальны: пришлось придумывать разные виды, каждый из которых лучше всего приспособлен для своей задачи: сверточные — в основном используются для анализа изображений, рекуррентные — для анализа динамических изменений, автокодировщики — для классификаций (например, для распознавания букв, символов), кодировщики-декодировщики — для выявления ключевых характеристик объекта, соревновательные нейросети — для порождения новых объектов, и специальные ячейки памяти (LTSM) — для запоминания и хранения информации.
Параллельно с типами нейросетей появилась и идея создания многослойных нейросетей, когда один слой одинаковых нейронов является входом для другого слоя. Позже также стали объединять разные типы слоев в одной модели, и все это с целью приблизить нейросети по уровню понимания к интеллекту человека.
Наши дни
Текущее внимание к нейросетям и активное использование термина «искусственный интеллект» обязано впечатляющим результатам, которых удалось добиться с переносом вычислений на видеокарты. Каждая из них содержит гораздо больше вычислительных ядер, чем центральный процессор, а также собственную память — это привело к ускорению обучения нейросетей в сотни раз по сравнению с обычными процессорами. Второй причиной нового витка в области AI стало возникновение огромных объемов данных для обучения.
Сейчас крупнейшие компании мира зарабатывают за счет нейросетей: соцсети (и их партнеры, как печально известная Cambridge Analitica) таргетируют рекламу при помощи аналитики, Nvidia и другие разработчики создают платформы для использования в автомобилях—автопилотах, способных качественно распознавать знаки и пешеходов на дорогах и реагировать на ситуацию. Однако ИИ применяют и в ближайшее время будут применять в основном для юридически не обязывающих действий. Они могут предупредить о появлении незнакомого лица на объекте или мошенника-рецидивиста в банке, упростят вождение, но не возьмут на себя ответственность за финальное решение.
Можно ли считать нейросети, служащие основой для решения задач классификации информации, искусственным интеллектом? Понять это можно, ответив на простой вопрос — может ли искусственный интеллект существовать и эффективно работать без естественного. Ответ — нет, потому что для решения любой задачи именно человек настраивает параметры нейросети для получения адекватных результатов. Грубо говоря, для решения каждой задачи выбирается своя архитектура нейросети. Ситуация, когда ИИ будет самостоятельно решать, какую нейросеть создать для решения конкретной задачи, пока даже не просматривается на горизонте.
Несмотря на то, что ИИ все-таки смог обыграть человека в шахматы, сейчас, как и несколько веков назад за каждой машиной, обыгрывающей человека, скрываются люди, создавшие ее.
www.forbes.ru
Хороший, плохой, злой: возможен ли эмоциональный искусственный интеллект
В обывательском представлении искусственный интеллект никогда не сможет приблизиться к человеческой эмоциональности из-за нашей особой душевной организации, которую невозможно трансплантировать в машину. Однако сложности с созданием эмоционального ИИ, напротив, связаны с тем, что люди не так уж хороши в эмпатии. Мы совсем не похожи на идеальные эмоциональные машины, которые могут с легкостью расшифровать чувства окружающих. Наша эмпатия серьезно ограничена уникальным опытом, усваиваемыми стереотипами и индивидуальными психоэмоциональными реакциями. Так, европеец из среднего класса вряд ли поймет, какие чувства выражает вождь африканского племени, и наоборот.
С одной стороны, мы полагаем, что эмоциональность — сакральный дар, исключительная привилегия людей. С другой — знаем о ней слишком мало, рассказывает специалист по ИИ и машинному обучению и основатель портала 22century.ru Сергей Марков. По его мнению, отказ от восприятия эмоциональности как чего-то священного позволит найти новые методы для изучения эмпатии. С помощью обратной разработки (исследование готового устройства или программы с целью понять принцип его работы и обнаружить неочевидные возможности. — Прим. T&P) исследования нейронных сетей и машинного обучения можно узнать что-то принципиально новое о человеческой эмоциональности. «Машинное обучение позволяет в ряде случаев, что называется, поверить гармонию алгеброй — на смену догадкам и гипотезам приходит более надежное знание, основанное на статистике больших данных», — полагает Марков.
Наладить коммуникацию
Возможно, мы бы и не пытались научить машины эмпатии просто из любопытства, но растущее число автоматизированных систем (от голосовых помощников до самоуправляемых автомобилей) делает эмоциональный ИИ насущной необходимостью. Главная задача, которая стоит перед специалистами по машинному обучению, — упростить работу с разными интерфейсами и на уровне ввода, и в процессе вывода информации. Частота общения с компьютерами очевидно растет, но сами сервисы и системы пока не понимают, почему мы трясем телефоном: от злобы или от смеха.
Эмоциональный интеллект уже сейчас востребован во многих бизнес-проектах. От рекламы, которая, подстраиваясь под эмоциональное состояние потенциального клиента, увеличивает продажи, до технологий распознавания, которые, обнаружив самого нервного человека в толпе, помогут поймать преступника.
Исследователям предстоит поработать с эмоциональным интеллектом и из соображений безопасности. «Решения, которые принимаются компьютерами, не должны казаться психопатическими. Если машина действует в мире, где живут люди, она должна уметь принимать во внимание „человеческие обстоятельства“, то есть быть способной к эмпатии. Стандартный пример: робот-диагност, отправляющий пожилого человека на сложную операцию, должен учитывать риски, связанные со стрессом. Беспилотный автомобиль, начисто лишенный эмпатии, в определенном контексте тоже может натворить бед», — считает философ Кирилл Мартынов.
Алармисты вроде философа и специалиста по антропоцену Ника Бострома, отмечает Мартынов, утверждают, что проблема «потери чувствительности» у сверхразума, резко выделяющегося на фоне человеческого уровня, вполне реальна. Эту проблему пытаются предотвратить уже сейчас при помощи юридических ограничений. При таком подходе создателей ИИ законодательно обяжут наделять разработки элементами эмоционального разума, необходимыми для эмпатии.
Научить эмоциям
Нетривиальная задача создания эмоционального ИИ упрощается с появлением новых инструментов вроде машинного обучения. Сергей Марков описывает этот процесс следующим образом: «Можно взять несколько сотен тысяч аудиозаписей человеческих высказываний и попросить группу людей-разметчиков сопоставить с каждой из этих фраз набор маркеров „эмоционального алфавита“. Затем случайным образом отбираются 80% фраз — на этой выборке нейросеть обучают угадывать эмоциональные маркеры. Оставшиеся 20% можно использовать, чтобы убедиться в исправной работе искусственного интеллекта». В другой модели обучения, которую описывает Марков, нейросеть получает бо́льшую самостоятельность. В ней ИИ сам категоризирует фразы по схожей эмоциональной окраске, темпу речи и интонации, а позже учится синтезировать свои высказывания на основе полученных категорий. Так или иначе, главным ресурсом для обучения искусственного интеллекта становятся большие массивы данных.
Эволюционная гонка
Говоря о машинном обучении и удобных интерфейсах, мы концентрируемся на практических задачах и их решениях. Но как насчет появления «настоящей» (как у людей) эмоциональности у искусственного интеллекта? Сможет ли машина любить, грустить и злиться? «Тот факт, что мы переживаем наши собственные эмоции как „настоящие“, связан лишь с тем, что так настроена наша когнитивная система, возникшая в ходе эволюции. Особи, способные испытывать эмоции и контролировать свое поведение, получали преимущество в эволюционной гонке. Компьютеры вряд ли смогут приблизиться к моделированию реальной эволюции приматов — в этом смысле их эмоции не будут „реальными“», — полагает Мартынов.
Ключевой вопрос, говорит Мартынов: можно ли смоделировать субъективные переживания эмоций, то, что Аристотель назвал бы душой, а Декарт — cogito? Прямого ответа на этот вопрос наука до сих пор не дает, а философы собирают конференции о природе квалиа (нередуцируемых элементов субъективного опыта). Хотя есть и оптимисты вроде философа и когнитивиста Дэниела Деннета, которые утверждают, что в конечном счете субъективный опыт — это способность рассказывать себе и окружающим о том, что вы почувствовали. Убедительные вербальные отчеты об эмоциях мы, конечно, получим от машин в ближайшее время, думает Мартынов.
Но с большой вероятностью, полагает Сергей Марков, наше совместное будущее с эмоциональным искусственным интеллектом примет формы, которые невозможно вообразить сегодня со стереотипным противопоставлением людей и машин: «Скорее в будущем люди и машины будут объединены в гетерогенные синтетические системы, в которых вы уже не сможете провести даже условную черту, разделяющую человека и продукт его технологий. В таком сценарии эмоциональному интеллекту уготована большая роль».
Читайте нас в Facebook, VK, Twitter, Instagram, Telegram (@tandp_ru) и Яндекс.Дзен.
theoryandpractice.ru
