цифровая сингулярность что это
О технологической сингулярности
Научно-техническое развитие в последнее время происходит ускоряющимися темпами. Оно связано с развитием различных технологий, в том числе информационных, которые проникают во все области жизни. Футурологи высказывают предположение, что скоро наступит технологическая сингулярность, когда произойдёт сильное изменение в дальнейшем развитии цивилизации. По разным прогнозам это может наступить в 2030, 2040 или 2045 гг.
Выделяют следующие признаки, по которым можно будет судить о наступлении технологической сингулярности. Технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию для человека. Будут созданы искусственный интеллект и самовоспроизводящиеся машины. Произойдёт интеграция человека с вычислительными системами. Резко увеличатся возможности человеческого мозга за счёт биотехнологий. «Интеллектуальный взрыв» произойдёт после того, как будет создана интеллектуальная машина, которая превзойдёт возможности людей.
Идея об ускоренном росте научного знания прослеживается уже давно у многих учёных. В течение миллионов лет происходило ускорение темпов эволюции живых организмов, затем – развития людей. Ф. Энгельс писал, что наука движется вперёд пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI–XVII вв.) развитие наук ускорялось квадратично по времени. В. И. Вернадский писал о непрерывном росте темпов научного творчества. Современные исследователи говорят об экспоненциальном законе развития науки.
Станислав Улам и Джон фон Нейман обратили внимание на то, что, поскольку технологический прогресс, определяющий то, как мы живём, постоянно ускоряется, то должен наступить такой момент, когда люди не смогут поспевать за технологиями – то есть наступит то, что математики называют сингулярностью. Но на этот раз это будет не особенностью в некой физической системе, а особенностью в истории человечества.
Похожее понятие «вертикального прогресса» описали Стругацкие в своих фантастических произведениях.
Термин «сингулярность» заимствован у математиков и астрофизиков. Они используют его при описании чёрных дыр. В современных теориях начала вселенной «сингулярность» – это точка с бесконечно большой плотностью, температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) – это точка функции, значение в которой стремится к бесконечности.
В контексте развития технологий впервые термин «сингулярность» использовал в середине XX века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова – точку, за которой экстраполяция начинает давать бессмысленные результаты (расходится). Об этом пишет Вернор Виндж, которому данный термин приписывают.
Научным обоснованием наступления сингулярности активно занимается американский футуролог Рэймонд Курцвейл. Он разрабатывает концепцию «технологической сингулярности». Вкратце осветим его точку зрения.
С его точки зрения, люди соединятся с электроникой. Наступит эпоха трансгуманизма, в котором рассматривается слияние человека и машины. Дальше совершенствование или эволюция людей пойдёт в корреляции с техническим развитием.
У людей есть потребность в вечной жизни, они не хотят умирать. Продление жизни можно будет осуществить разными способами. Уровень биологических технологий достигнет таких высот, что жизнь человека можно будет бесконечно долго продлевать, меняя внутренние органы, части тела или создавая условия для регенерации тканей, самовосстановления органов. Генетическая модификация людей позволит устранить «гены старения». Криоконсервация позволит сохранять внутренние органы, в том числе останки людей, для того чтобы в будущем воскресить и излечить их.
Будут созданы нанороботы, которые будут циркулировать внутри человека, выполняя очистку от молекулярного мусора внутри и снаружи клеток, и лечение внутренних органов на клеточном уровне.
Сознание людей можно будет записывать на физические носители информации. Затем можно будет переносить копию сознания на другой физический носитель, тем самым обеспечив продолжение жизни человеческих индивидуумов.
Наступит бессмертие людей. «Вечная жизнь» будет в специфическом виде. По одному из вариантов люди будут жить в виртуальной реальности, имея возможность менять биологические тела.
Будет создан искусственный интеллект, который будет самостоятельно развиваться. Он начнёт сам познавать окружающий мир и обойдёт человека. В итоге, общее развитие ещё более ускорится.
Концепция, которую разрабатывает Курцвейл и другие, является аналогом религиозных учений о возможном достижении бессмертия людей, о конце мира – в смысле кардинального изменения дальнейшего хода истории (перехода через «сингулярность»). Люди, благодаря техническому развитию, приобретут качества, сравнимые с качествами бога, описанного в религиях. Они начнут заселять планеты на других звёздах, распространяться во вселенной, обустраивать её по своему усмотрению. Как говорит Курцвейл, это будет «пробуждение» вселенной.
Критически осмыслим данную концепцию. В частности, подведём к тому, что выраженной сингулярности с серьёзным кризисом не будет.
Развитие какой-либо системы может происходить по разным закономерностям, описываемым разными математическими функциями. Квадратичный или экспоненциальный рост системы не предполагает никакой сингулярности в математическом смысле этого понятия.
Сингулярность может возникнуть в гиперболической функции. График функции гиперболы переходит в бесконечность за конечное значение аргумента и можно вычислить, когда показатель развития приобретёт бесконечное значение. В реальных процессах никогда не наблюдается ухода системы в бесконечность, а вместо этого она испытывает качественное изменение (фазовый переход) перед достижением точки сингулярности.
По одному из предположений развитие общества идёт по S-образной (логистической) кривой, и уже какое-то время идёт торможение, то есть наша цивилизация «точку сингулярности» в процессе фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Переход через технологическую сингулярность можно определить как фазовый переход. Это подобно переходу от одной фазы к другой – переходу от старого состояния общества к качественно новому состоянию.
Можно вспомнить законы диалектики, которые не учитываются сторонниками концепции технологической сингулярности: закон единства и борьбы противоположностей; закон перехода количества в качество; закон отрицания отрицания. Природные системы развиваются, как правило, по этим законам. Если их учесть, то никакой сингулярности не будет.
В теории динамических систем существует понятие бифуркации, когда система испытывает ветвление решения – качественное изменение поведения. Там нет сингулярности. Физические и астрофизические сингулярности возникают при классическом описании, но устраняются при учёте квантового подхода.
Как законы общих наук, так и законы частных наук не порождают реальных бесконечностей или сингулярностей. При развитии системы происходит переход количества в новое качество, переход от одной фазы к другой фазе, переход от одного решения к другому решению. Это происходит разными способами – либо плавно, либо скачком, но без ухода в бесконечность. Так будет и с ожидаемым переходом общества к новому качественному состоянию.
Виртуальная реальность никогда не станет настоящей реальностью. Она может только в какой-то степени отражать настоящую реальность. В перспективе, возможно, степень отличия виртуальной реальности от настоящей реальности будет только сокращаться. Но если развитие будет связано только с этим, то это будет тупиком.
Учёные обсуждают возможность копирования личности человека из головного мозга на электронный носитель, что позволило бы ему жить вне тела. Но мы не знаем всех нюансов устройства мозга и человеческого организма, и не понимаем сущности сознания, поэтому полностью скопировать сознание человека на электронный носитель в ближайшее время будет невозможно. Но даже если мы попытаемся это сделать, то копия не будет полностью отражать оригинал. Это будет неполноценная личность.
Я считаю, что скопировать полностью сознание человека на электронный носитель в принципе невозможно. Возможно лишь создание некой имитации копии сознания человека.
В концепции технологической сингулярности не рассматривается возможность развития человека без технологий. Человек – очень сложная и до конца не изученная система. Это даже с официальной научной точки зрения. На данный момент всё, что описывалось выше можно рассматривать как фантастику. Поэтому можно рассмотреть и другую фантастическую точку зрения: в человеке могут быть скрытые психические сверхъестественные способности. В разных источниках информации периодически появляются описания таких случаев и явлений. В них может быть доля истины. Человечество может начать развиваться совершенно в другом направлении по отношению к технологическому развитию. Такую возможность нельзя исключить.
Есть основания полагать, что развитие человеческой цивилизации пойдёт не по сценарию разработчиков концепции «технологической сингулярности», но могут реализоваться отдельные их предсказания. Предстоящий прогресс независимо от своей скорости и сложности, в целом, будет понятным для людей. Искусственный интеллект и самовоспроизводящиеся машины могут быть созданы, но искусственный разум – нет. Интеграция человека с вычислительными системами, скорее всего, будет осуществлена. Жизнь людей будет продлеваться, но бессмертие не будет достигнуто. Часть из предсказаний футурологов, возможно, будет осуществлена в гораздо более дальней перспективе.
В целом, развитие пойдёт своим естественным образом. Пытаться делать предсказания и прогнозы можно и нужно, но очень сложно, поскольку на развитие влияют очень много факторов, часть из которых не известна.
Технологическая сингулярность
Технологическая сингулярность — гипотетический момент, по прошествии которого технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию и контролю человека на его текущем интеллектуальном уровне. Ранее связывалась с ускорением накопления научных знаний, ныне повсеместно связывается с ростом вычислительной мощности компьютеров, а также созданием всё более умного программного обеспечения. По всей видимости точкой сингулярности будет создание самосовершенствующегося искусственного интеллекта, хотя в иной реальности возможен и вариант с генной инженерией. Поскольку сценарий кажется реалистичным, а будущее цивилизации станет невозможно предсказать, то многие авторы помещают миры «на порог» сингулярности, либо рисуют катастрофический сценарий с гибелью человечества под натиском машин.
Содержание
Точка зрения [ править ]
Если сравнить технологическую эволюцию и биологическую, то человек является продуктом биологической сингулярности, которая привела к появлению разумного вида в форме Homo Sapiens. Результат, как видите, действительно непредсказуем, «природные» существа не летают в космос, не используют компьютеры и даже не пишут статейки на posmotre.li (что, как все мы понимаем, самое ужасное).
У гипотезы о технологической сингулярности есть и противники. Версия о росте вычислительной мощности компьютеров опровергается ими вполне реальными физическими ограничениями на таковую мощность (размерами атома и скоростью света, другое дело, что с точки зрения многих теоретиков ИИ ключевым моментом является не компьютерная мощность, а наличие соответствующих программ и лежащих в их основе научных разработок, в первую очередь математических), а на версию об ускорении накопления научных знаний они отвечают, что пик скорости давно пройден и в науке скорее застой. С другой стороны, сингулярность все-таки может наступить после создания ИИ.
По мнению третьих, технический прогресс есть явление экспоненциальное. Иными словами, постоянное ускорение темпов его роста — реальность, но кривая здесь не гипербола, а экспонента. То есть никакого единого момента, когда происходит Выликое Нечьто, Привращающее Усех, не существует.
Наконец, четвёртые — прежде всего, сторонники теории технологических укладов — полагают, что нынешнее всеобщее помешательство на компьютерах и информационных технологиях есть явление временное и пройдёт так же, как закончилось всеобщее помешательство на машиностроении, ракетах и большой химии в XX веке. Каждому технологическому укладу — своя Большая Ключевая Новинка, от которой ждут чего-то великого, а она чижика съедает. Яблони на Марсе не зацвели, а значит, и компьютерный бог не явится в мир. И в будущем ждать невероятных переворотов будут уже от какой-то другой технологии, скажем, от биотехнологий. Если верить теории технологических укладов, то для информационных технологий в 2010 году уже наступил конец фазы быстрого роста — момент, когда технология перестаёт стремительно развиваться и превращается в нечто обыденное и полустатичное, давно известное и никого не удивляющее, как автомобиль или тепловоз, что можно обвешивать свистелками и перделками, но что в сути навеки останется тем же, что и сейчас; в 2040 году, если верить теории, такими обыденными и полустатичными станут нано- и биотехнологии.
Что здесь есть? [ править ]
Для сингулярности (по крайней мере, такой, какой мы ее представляем, особенно в беллетристике) могут быть типичны:
Технологическая сингулярность, как событие неизбежное
Думаю, многие, читающие эти строчки, на сегодняшний день видят, что прогресс с каждым днем ускоряется. Еще в начале XX века многие не верили в самолеты и думали, что «завтра будет сегодня». Эта тенденция в обществе была всегда и наблюдается сейчас. Завтра будет сегодня. В принципе, это простое эмпирическое наблюдение, однако если сравнить то, что было год назад, и что есть сегодня, становится виден этот прогресс. Если бы наблюдатель провел такое наблюдение в начале XIX века, очевидный прогресс он вряд ли бы увидел, разве что попал бы в переломный момент. Сейчас же различные научные достижения, мелкие и большие, происходят каждый день. Интернет стал катализатором этого процесса. Свободный обмен информацией объединил ученых со всего мира и лишил одной из главных проблем — повторного изобретения, чем часто страдал прошлый век. Конечно, сейчас данная проблема наверняка сохраняется из-за секретности некоторых государственных программ, однако такие проекты — это капля в море тысяч энтузиастов. Разумеется, сейчас наблюдаются не лучшие тенденции государственного контроля, но я, пожалуй, буду обсуждать в макромасштабе и не буду разбирать такие детали.
Уже вот 49 лет как выполняется закон Мура, а Intel готовит нам новые техпроцессы и новые подходы. Разрабатываются параллельно квантовые компьютеры, ДНК-компьютеры, нейронные сети… Все это произошло буквально за 30 лет.
Все неизбежно указывает на дальнейшее ускорение прогресса и движение к некой точке — технологической сингулярности.
Теория
Если немного подумать, то можно сделать простой вывод: Если мы хотим и дальше совершенствовать существующие технологии и создавать новые фантастические, то мы должны преодолеть границы нашего сознания. Что я имею в виду, говоря это? Я имею в виду, что человечество скоро упрется в некий тупик своих мыслительных способностей и, вероятно, будет погружено в многолетний застой и даже «второе средневековье». Для того, чтобы этого избежать и продолжать этот быстрый рост, люди должны что-то предпринять для повышения потенциала своего интеллекта. Это я и опишу ниже.
На данный момент четко видятся три ветви науки, которые могут привести человечество к сингулярности:
Информационные технологии
Именно это направление в последние годы претерпевает самые значительные изменения и подвижки в целом. Информатика продвигается по всем фронтам, которые ей становятся доступны. Примерами можно назвать квантовые компьютеры и биокомпьютеры. Если бы не достижения в других областях науки, то эти направления бы не появились. Информатика постепенно и сама открывает новые направления — биоинформатика. Влияние информатики огромно, и она по сути является самым главным катализатором сингулярности и прогресса в целом. Еще бы, ведь информатика — это наука об информации.
Информационные технологии (в кооперации с другими) могут дать нам два главных продукта: Сильный ИИ или (и) Интерфейс Человек-Компьютер. Примерной датой революции может стать названный выше 2030 год.
В контексте технологической сингулярности под ИИ подразумевается именно Сильный ИИ, возможно, он будет являться точной копией человеческого сознания или же будет создан более рациональными методами, если это вообще возможно. Искусственный Интеллект явно является предметом более большого и всеобъемлющего обсуждения, но я, пожалуй, напишу немного вводной информации.
Польза
Разработка и успешное внедрение дружественного ИИ должно в корне изменить нашу жизнь.
Его польза сведется к тому, что умный ИИ придумает все сам за нас и при возможности будет щедро делится своими достижениями, уводя нас далеко в дебри сингулярности.
Теоретически это гипотетическое существо должно из нынешнего хаоса создать абсолютный порядок, например: полной автоматизацией транспорта и абсолютным контролем дорожного трафика, всегда стабильным ростом экономики, отсутствием войн, постоянным внедрением новых технологий и предотвращением экономических застоев, а также перспективной колонизацией космоса.
Вред и риски
Лично мне кажется, что ИИ искореняет одну из самых главных потребностей людей — вечное любопытство. Создав ИИ, люди должны будут смириться с тем, что создали существо, превосходящее на порядки самих создателей. Смириться с тем, что передали эстафетную палочку своему творению. Возможно, такой подход кого-то радует, но, думаю, большая часть населения такого подхода истребления не одобрит. Нужно будет научиться как-то существовать с таким «большим братом». Если, конечно, ИИ будет дружественный. Так, например, одним из главных рисков может быть полностью неконтролируемый сверхчеловеческий интеллект, который может не увидеть пользу в человечестве как таковом, трактовать свое существование эволюцией и доминированием и объявить подобие геноцида. Можно очень долго рассуждать на эту тему, описывать методы создания дружественных форм сознания и т. д. Но никаких гарантий нет. Интеллект, который умнее самого человека, невозможно предсказать.
Интерфейс Человек-Компьютер
Это направление не настолько туманно, как ИИ, и в нем имеются более реальные и дающие результат перспективы. По сути, в области данного направления пока что нет настолько сложных и объёмных вопросов, как в вопросах о создании ИИ. Сейчас наблюдаются очень активные исследования в области компьютеризированных протезов, а также различных имплантантов прямо в мозг.
Польза
В целом и общем данный интерфейс должен открыть такие возможности: кооперация на телепатическом уровне посредством сети Интернет (или более перспективных сетей будущего), мгновенный доступ к материалам Интернета (например, через дополненную реальность), создание модуля постоянной памяти для сохранения важных заметок, а также интеграция зрительного нерва с ресурсами интернета и создание зрения Терминатора абсолютной дополненной реальности с анализом всего увиденного (как, например, в играх Deus Ex или Syndicate). Перед человеком откроются горизонты, новые способы организации работы, новое видение мира, наука стремительно поползет вверх.
Вред и риски
Исследованиям в этой области сейчас мешают некоторые этические вопросы, так как в случае даже самого малого распространения этой технологии начнется быстрое фрагментирование общества. Трансгуманисты против консерваторов.
Рисков, связанных с появлением «сверхлюдей», также много. Эти люди станут более влиятельными и будут явно мешать стандартному течению жизни. Модификация организма может стать серым и неконтролируемым процессом и привести к колоссальным непредвиденным катастрофам в будущем.
Нанотехнологии
Сейчас практически все исследования в области нанотехнологий сводятся к созданию новых нанополимеров на базе графена, фуллеренов, изучению концепций нанодвигателей, механизмов, а также созданию теоретической базы для будущих наработок. Основной продукт, который может нам дать нанотех — машины фон Неймана.
Машины фон Неймана
Машины фон Неймана — это роботы, способные к саморепликации и управлению материей на разных уровнях, в зависимости от их миниатюрности. Торжеством нанотеха может стать управление физической материей на субатомном уровне. В рамках нынешних технологий это чистой воды НФ. Для их создания придется преодолеть очень много барьеров, и как раз торжество нанотехнологий может наступить очень поздно. По некоторым прогнозам — от 2050 до 2100 года. А в целом это 2070-ые годы. Не решены вопросы энергообеспечения, контроля миллионов реплицирующихся машин, ориентация в пространстве (ведь даже для самого маленького гироскопа или камеры нужны триллионы молекул). Есть также высокая вероятность того, что эти роботы вообще технически не реализуемы, во всяком случае, на нашем веку. Сейчас речь идет о создании «простых» роботов, которые, например, смогут работать с биологическими клетками и стать более интеллектуальным помощником нашей иммунной системе.
Польза
Как было сказано выше, данная технология может иметь прекрасное медицинское применение: лишить человека большой части известных заболеваний и удалять уже существующие. Также, вероятно, нанотехнологии помогут реанимировать криопациентов. С дальнейшей миниатюризацией технологии и уменьшением уровня работ будут доступны новые возможности. Например, работа на клеточном уровне. В кооперации с биоинформатикой и цитологией можно будет запросто достигнуть физического бессмертия организма, отключив механизмы старения, или же править ошибки, появляющиеся в процессе старения.
Помимо медицинского применения, у нанотеха есть огромный потенциал в строительстве огромных астроинженерных сооружений космического лифта или даже сферы Дайсона. Помимо астроинженерных сооружений, должен быть решен вопрос постройки огромных небоскребов из композитных наноматериалов. Этим может быть решен вопрос перенаселения и многоуровневых ферм и полей.
Вред и риски
Как у любой развитой технологии, и у этой есть огромнейшие риски. При попадании ее в чужие руки могут создаваться вирусы, которые будут действовать еще пагубней, чем обычные биологические. Также это может открыть огромные возможности для шпионажа.
Биотехнологии
В технологической сингулярности биология играет две роли: Помощь в достижении физического бессмертия организма для реализации неограниченного потенциала человеческой личности и создание эффективных ноотропов для раскрытия огромного потенциала мозга, как, например, у людей с синдромом саванта (или опровержение существование этого потенциала).
Физическое бессмертие
Помимо вопросов этики, в обсуждениях про бессмертие часто поднимается вопрос перенаселения. Лично я считаю, что люди, утверждающие, что после достижения бессмертия население резко пойдет вверх — сильно заблуждаются. Достаточно просто посмотреть статистику и посмотреть в животный мир. В странах с низким уровнем жизни высокая рождаемость, а в развитых странах типа Австралии, Германии, Исландии, Финляндии и других виден абсолютный контроль над уровнем населения. В животном мире наблюдаются точно такие же тенденции. Например, различные насекомые живут день, но рождаются каждый день миллиардами по всему миру, а долгоживущие существа имеет потомство максимум из двух-трех особей.
Ноотропы
Может производить в уме сложнейшие математические вычисления, оперируя с числами, состоящими из более ста знаков. Также он доказал, что за неделю может выучить совершенно незнакомый ему язык (на примере исландского языка).
Для описания данного явления ученые придумали термин «математическая синестезия».
Таким образом, разработка ноотропов, способных открыть эти разделы мозга, выведет интеллект на новый уровень и сопроводит новыми рисками. По сути, это биологический интерфейс человек-компьютер, а поэтому на него действуют все те же опасности, в частности, уже упомянутая фрагментация общества.
Вывод
Что же последует дальше? Не знаю. Вероятно, люди все же придут к созданию искусственного интеллекта. Возможно, это произойдет в 2030-ых, а возможно — никогда. Нужно осознать, что если ИИ будет создан, то палочку нам всё-таки придется передать рано или поздно.
Эту статью я задумал как статью, которая должна что-то переменить в сознании людей. Я хочу, чтобы мы все поняли, что живем в очень интересное и замечательное время, думаю, что именно нашему поколению предстоит либо погрузиться во тьму, либо вырваться в фантастическое будущее фантастических технологий.
Сингулярность: когда ее можно ожидать?
Термин «искусственный интеллект» появился всего около 60 лет назад, и сейчас это уже не просто термин. На данный момент есть много экспертов по ИИ, которые пытаются понять, каким будет будущее этой технологии. Один из основных вопросов для обсуждения — технологическая сингулярность, момент, когда машины достигнут уровня разумности, превосходящего уровень разумности человека.
И хотя сингулярность до сих пор является темой многих научно-фантастических произведений, возможность ее наступления выглядит все более реальным. Корпорации и стартапы активно занимаются искусственным интеллектом, в их число входит Google, IBM и другие. Результаты этой работы есть. Например, создан робот, который выглядит как человек и может поддерживать разговор, считывать эмоции — или хотя бы пытаться это делать — а также выполнять разные типы задач.
Наверное, самым уверенным экспертом среди всех сторонников точки зрения неотвратимости наступления сингулярности является Рей Курцвейл, технический директор корпорации Google. Он считает, что роботы станут умнее людей где-то году в 2045.
Руководитель СЕО SoftBank Масаёси Сон, сам по себе известный футурист, убежден, что сингулярность наступит уже в этом столетии, примерно в 2047 году. Бизнесмен всеми силами старается ускорить наступление сингулярности, создавая собственные проекты и покупая чужие. Так, SoftBank относительно недавно выкупил стартап Boston Dynamics у Google. Также компания вкладывает миллиарды долларов в технологическое венчурное инвестирование.
Далеко не все разделяют оптимизм приверженцев ускорения процесса сингулярности, считая сильную форму ИИ опасной.
Среди тех, кто опасается разумных машин — Илон Маск, Стивен Хокинг и другие ученые и бизнесмены. Они утверждают, что появление сильной формы ИИ станет началом конца человеческой цивилизации. Вот мнения некоторых экспертов.
Луис Розенберг, СЕО Unanimous AI
«По моему мнению, которое я высказывал на TED этим летом, искусственный интеллект станет разумным и опередит человека в развитии, как раз это люди называют сингулярностью. Почему я так уверен, что это случится? Это просто. Мать-природа уже доказала, что разум может появиться в результате появления массивного числа однородных вычислительных элементов (т.е. нейронов) из которых формируются адаптивные сети (то есть, мозг).
В начале 90-х я размышлял над этим вопросом, и мне казалось, что ИИ превысит возможности человека в 2050 году. Сейчас я верю, что это случится быстрее, вероятно, уже в 2030.
Я считаю, что создание искусственного интеллекта на Земле ничуть не опаснее чужого ИИ, пришедшего с иной планеты. В любом случае, у этого ИИ будут собственные ценности, мораль, чувства и интересы.
Полагать, что интересы ИИ будут совпадать с нашими абсурдно наивны, а для того, чтобы понять, каков может быть эффект от конфликта интересов, стоит подумать, что человек сделал с природой и живыми существами на Земле.
Таким образом, нам необходимо подготовиться к неизбежном появлению рразумного ИИ. У этого такая же степень вероятности, как и у прибытия корабля с иной солнечной системы. Все это — угроза существованию нашего собственного вида.
Что можно сделать? Я не считаю, что мы сможем задержать сознающий себя ИИ. Мы, люди, просто неспособны совладать с опасными технологиями. Это не потому, что у нас нет благих намерений. Просто мы редко понимаем потенциальную угрозу наших собственных изобретений. Когда начинаем созавать, уже обычно слишком поздно.
Означает ли это, что мы обречены? В течение продолжительного времени я думал, что это действительно так и написал два романа о неизбежном уничтожении человека. Но сейчас я считаю, что человечество выживет, если мы станем умнее, гораздо умнее, и сможем опережать машины.
Пьерр Барро, СЕО в Aiva Technologies
Я считаю, что существует сильное заблуждение в отношении того, насколько быстро появится „супер разум“, связанное с уверенностью что экспоненциальный рост производительности (технологий) нужно принять, как данность.
Во первых, на аппаратном уровне мы уже практически достигли предела, установленного законом Мура. В то же время, нет никакой уверенности в том, что современные технологии, вроде квантовых вычислений, могут использоваться для продолжения роста эффективности компьютерных систем, причем теми же темпами, что мы видели до сих пор.
Во-вторых, что касается программного уровня, нам еще нужно пройти длинный путь. Большинство ИИ-систем нуждается в многократных циклах обучения для того, чтобы получить возможность выполнять ту либо иную операцию. Мы, люди, гораздо более эффективны в плане обучения, нам нужно всего лишь несколько примеров и повторений.
Сфера применения ИИ очень узкая. Так, подобные системы фокусируются на решении специфических проблем, вроде распознавании фотографий котов и собак, машин, составления музыкальных композиций. Но пока еще нет систем, которые могут одновременно выполнять все это вместе.
И это если не говорить о том, что мы не должны быть слишком уж оптимистичны в отношении развития ИИ. Мне кажется, что в этой теме слишком много хайпа, но вскоре все наши иллюзии могут рассеяться, иллюзии в понимании того, что может и чего не может делать ИИ.
Если это случится, тогда может наступить новая „ИИ зима“, что приведет к нижению уровня финансирования разработок искусственного интеллекта. Это, вероятно, худшее, что может случиться в этой сфере, и нужно сделать все, чтобы предотвратить возможность реализации такого сценария.
Но когда наступит сингулярность? Я думаю, это зависит от того, что понимать под этим термином. Если мы говорим о прохождеении ИИ теста Тьюринга и повышении уровня разумности искусственной системы до уровня человека, то это случится где-то году в 2050. Это вовсе не означет, что ИИ обязательно будет умнее нас.
Если же мы говорим об ИИ, который превосходит человека абсолютно во всем, то здесь нужно сначала понять, как работает наш собственный разум. И только потом уже можно задуматься о создании чего-либо, что превохсодит нас. Мозг человека до сих пор остается сложнейшей проблемой, решить которую пока не могут лучшие из лучших. Мозг человека определенно сложнее, чем самые сложные нейросети или комплексы нейросетей.
Раджа Чатила, глава Института разумных систем и робототехники (ISIR) при университете Пьера и Марии Кюри.
Концепт технологической сингулярности не имеет под собой ни технологической, ни научной основы.
Основной аргумент — так называемый „закон ускорения развития“, который создан стараниями пророков технологической сигнулярности, включая, главным образом, Рея Курцвела. Этот закон вроде бы проистекает из закона Мура, который, как мы знаем, не является научным законом — это эмпирический вывод, который основан на результатах развития электронной индустрии.
Мы все знаем ограничения закона Мура — время, когда мы достигнем квантовых технологий например — и то, что эта архитектура может все изменить. Это важно для понимания того, что закон Мура не является на 100% законом.
Но сторонники сингулярности пытаются провести параллель с эволюцией видов и технологий без особого на то основания. Они считают, что постоянное повышение мощности компьютеров дадут в конце концов искусственный интеллект, который превзойдет человеческий разум. В частности, они предполагают, что это случится в промежутке между 2040 и 2050 годами.
Но обычные вычислительные устройства — это вовсе не разум. У нас около 100 миллиардов нейронов в мозге. Не только их количество, но прежде всего, их структура и принцип взаимодействия дает нам возможность думать и действовать.
Все, что мы можем делать — создавать определенного рода алгоритмы для достижения определенных целей и решения задач (называя это интеллектом). На самом деле, все эти системы очень ограничены в своих возможностях.
Мой вывод — сингулярность — это вера, но не наука.
Гидеон Шмуэль, СЕО eyeSight Technologies
Пытаясь понять, как сделать машины самообучающимися, в широком смысле, мы потратим много времени. Вызов в том, что как только подобные системы будут созданы, они смогут обучаться чрезвычайно быстро, экспоненциально. И за считанные часы или даже минуты они смогут превзойти человека.
Я бы хотел сказать, что технологии не плохие и не хорошие, это лишь инструмент. Еще я хотел бы сказать, что этот инструмент становится плохим или хорошим только в руках, которые его держать. Что касается сингулярности, то люди, пользователи, здесь ни при чем, все это касается лишь машин. Они могут вырваться из наших рук, и единственное, что можно сказать с уверенностью — то, что мы не сможем предсказать последствия.
Большое количество научно-фантастических книг и фильмов показывают нам супер-разумные машины, то, как они уничтожают человечество, или всех закрывают, или выполняют еще какие-то действия, которые ни вам ни мне не нравится.
То, что нужно в реальности сделать — подумать над способами развития ИИ-технологий. Например, если взять машинное зрение, то риск относительно мал. Если система сможет понимать значение вещей и распознавать объекты — ничего плохого не случится.
В наших собственных интересах получить машины, которые могут самообучаться для того, чтобы понимать, что происходит. Риск здесь в промежуточном слое, который воспринимает данные и переводит внешние факторы в какие-либо действия.
Эти действия могут быть очень быстрыми, иметь отношение к обычной реальности (автомобили с ИИ, например) или же виртуальной реальности (обработка информации, контроль ресурсов, идентификация и т.п.).
Должны ли мы этого бояться, в особенности, последнего? Лично я опасаюсь, да.
Патрик Уинстон, профессор информационных технологий, специалист по ИИ.
Меня уже несколько раз спрашивали о том, что я думаю по этому поводу. Люди считают, что ИИ человеческого уровня появится через 20 лет последние 50 лет (то есть каждое поколение ждет скорого появления ИИ). Мой ответ — ничего страшного, и в конце концов это может быть правдой.
На мой взгляд, создание ИИ не имеет ничего общего с, например, отправкой человека на Луну. У нас уже есть все технологии для Луны, но нет почти ничего для создания ИИ. Требуется больше технологических прорывов для этого, и сейчас сложно думать об этом с точки зрения каких-либо временных рамок.
Конечно, все зависит от того, насколько много ученых будет работать над проблемой создания ИИ. Сейчас огромное число специалистов вовлечено в машинное обучение и глубокое обучение. Возможно, некоторые из этих специалистов поймут, как работает разум человека.
Когда мы получим машинный эквивалент прорыва Уотсона-Крика? Я думаю, лет через 20, в конце концов я верю, что это случится.