ИИ изменит жизнь уже в ближайшие годы и не обязательно к лучшему

Возможно, человечество уже утратило многотысячелетнюю монополию на интеллект. Прямо здесь и сейчас, постепенно и незаметно человека почти отовсюду вытесняют системы искусственного интеллекта. Что это такое? Как вести себя с ними? Как не потеряться и не погибнуть в начинающемся шторме цивилизационных перемен? Особенно если с помощью не торопится государство?.. Об этом - лекция Григория Бакунова, директора по распространению технологий "Яндекса". Лекция была прочитана в Уральском федеральном университете в рамках Дня открытых дверей IT-отрасли. Предлагаем вашему вниманию основное содержание выступления."Будет очень интересная война, в 2020-м вылезет максимальное количество проблем" Начиная с 2016 года и по сей день очень много говорят о системах искусственного интеллекта и о том, как мы с ними будем жить. Это "прекрасное" довольно далеко и местами довольно жестоко. Мы научились применять системы искусственного интеллекта в некоторых областях, однако в большинстве из этих областей нет банальной "защиты от дурака". Есть система распознавания лиц: вы загружаете фотографию, предположим, во "ВКонтакте", и "ВКонтакте" сам, без вашего указания, определяет: кажется, на этой фотографии есть Коля, Вася, Петя и другие, а вы соглашаетесь и подтверждаете (или не подтверждаете). Это простая система, построенная на современных представлениях об искусственном интеллекте, которую по непонятной мне причине никто не пытается обмануть.Мы с друзьями выполнили забавный проект: придумали другую систему искусственного интеллекта, главная задача которой - придумать, как обмануть систему искусственного интеллекта "ВКонтакте". То есть искусственный интеллект, который борется с искусственным интеллектом. Идея очень простая: мы брали несколько фотографий человека, в данном случае мои и моих близких друзей, и строили систему искусственного интеллекта, наносящую на фотографию штрих или штрихи, которые при минимуме покраски тем не менее делают так, что система искусственного интеллекта "ВКонтакте" или любая другая система распознавания лиц перестает узнавать человека и даже определяет его как другого. Оказалось, что, чтобы система "ВКонтакте" начала путать меня с Аркадием Юрьевичем Воложем (сооснователь и генеральный директор группы компаний "Яндекс". - Прим. ред.), достаточно двух штрихов на моем лице длиной полтора сантиметра, проведенных обычным черным маркером. Причем мы вообще не похожи, ни один человек перепутать меня с Воложем не может.Такие примеры в разных других областях [применения искусственного интеллекта] - бесконечны. И когда мне рассказывают, что благодаря системе распознавания лиц какой-нибудь крупный банк собирается выдавать деньги из банкомата, я говорю: ребята, я получу деньги за Воложа, и хорошо, если Аркадий Юрьевич не обидится. Во всех современных системах искусственного интеллекта, построенных на распознавании чего бы то ни было, постоянно не учитывают тот факт, что достаточно нескольких точек и штрихов на картинке, чтобы обмануть эти системы.Это довольно неприятно, особенно при обсуждении самоездящих автомобилей, автомобилей без водителя, у которого на переднем сидении - камера, немного отличающаяся от обычных, потому что она умеет понимать объем. Я знаю, как нанести на задней стороне своего автомобиля небольшой объемный контур, чтобы современные системы софт-драйвинга были уверены, что я не автомобиль, едущий впереди, а просто небольшая ямка на дороге.Мы пока чудовищно далеки от того, чтобы научиться предотвращать попытки обмануть системы искусственного интеллекта. Следующие несколько лет люди потратят на то, чтобы создать системы искусственного интеллекта, которые общаются с другими системами искусственного интеллекта и иногда их обманывают. Готовьтесь, это будет очень интересная война. 2020-й будет годом, когда вылезет максимальное количество таких проблем. Потому что огромное количество компаний за прошедшие несколько лет построили свой бизнес на системах искусственного интеллекта."Откуда мы знаем, что у „Алисы" нет разума?" При этом даже со своим, человеческим интеллектом у нас возникают неприятные проблемы. Если вы почитаете "Википедию", то обнаружите, что определение, казалось бы, простого слова "интеллект" - это несколько абзацев размытых формулировок. У нас нет четкого определения разума. И мы не можем, глядя на другого человека, сказать, есть в нем интеллект или нет. Возможно, перед нами оболочка, которая тщательно имитирует живого человека. Текущая ситуация такова, что мы не можем отличить поведение искусственного интеллекта от поведения живого человека.В 1982 году энтомологи провели такой эксперимент. Муравейник, муравьиная дорожка. На этой тропе, по которой бегают муравьи, на веревке зафиксирована чашка с сахаром. Если подергать за веревочку, которая привязана где-то далеко на этой дорожке, то около муравейника упадет капля с сахаром. И вот муравьи бегут к этой дальней веревке, дергают за нее, другие муравьи подхватывают каплю сахара и заносят ее в муравейник. С точки зрения внешнего наблюдателя, это проявление коллективного разума. Потому что те дальние муравьи за то, что они дергают веревку, даже не получают кусочек сахара, как это называют дрессировщики, позитивного подкрепления. С 1982 по 2006 год энтомологи пытались убедить всех, что это что-то невероятное. А потом оказалось, что все очень просто. Если воткнуть веревку на муравьиной тропе, муравей будет дергать за нее вне зависимости, капает там сахар или нет, ему по барабану, у него работа такая. У других такая работа: есть еда - неси ее в муравейник. Всё, никакого разума здесь нет. Однако ученые тратили на это многие годы жизни, утверждая, что это коллективный разум.title="ИИ изменит жизнь уже в ближайшие годы и не обязательно к лучшему" С людьми и искусственным интеллектом такая же беда: поскольку у нас нет определения разума, мы можем судить только по внешним проявлениям. Есть тест Тьюринга: в одной комнате сидит жюри, а в другой - человек или искусственный интеллект. Жюри пишет на бумажке вопрос - с той стороны приходит на бумажке ответ. И жюри должно вынести вердикт: кто сидит в соседней комнате, человек или искусственный интеллект? Так вот, с 2007 года ежегодно появляется несколько алгоритмов, которые проходят тест Тьюринга сильно лучше, чем люди. Первая компьютерная программа, которая прошла тест Тьюринга с огромным успехом, делала вид, что она 10-летняя девочка из Одессы, плохо говорящая по-английски. Означает ли это, что у этих программ есть разум? Нет, некоторые из них даже не являются системами искусственного интеллекта, это системы, которые идеально имитируют поведение живого человека.Но откуда мы знаем, что у "Алисы", которая отвечает на вопросы, нет разума? Некоторые мои диалоги с ней разумнее, чем диалоги с людьми: она связаннее говорит, она более логична в своем поведении, более предсказуема, у нее варьируется характер. "Искусственный интеллект" - обманчивое определение, потому что оба слова в нем неправильные. Это не интеллект, и слово "искусственный" подразумевает, что он непохож на настоящий, он не "искусственный" - он не естественный, не белковый. Но мы не можем отличить, поэтому не можем сказать, есть ли там разум. Это проблема больше из области философии, нежели естественно-научных знаний. И до тех пор пока мы не ответим на этот философский вопроса, у нас не будет ответа и на технический вопрос, есть ли там разум."Естественный способ общения с компьютером - управление с помощью мысли"Есть ребята, которые придумали гениальную конструкцию - браслет, на котором нажимаешь кнопку - и на руку проецируется экран. Только одна проблема: каждый день нужно брить руку. Через 15-20 лет мы должны прийти к проекции непосредственно в мозг или на сетчатку глаза без дополнительных приборов. Думаю, это возможно. Мы и сейчас в принципе в состоянии разобрать часть сигнала в зрительном нерве, то есть чисто теоретически можно поставить чип на зрительный нерв, который создает картинку. Это, как мне представляется, идеальное будущее. В промежутке между ним и текущим моментом будут голографические экраны, проекции в воздух, когда требуется большой объем информации. Но среднему человеку большой объем информации не нужен, средний человек нормально воспринимает информацию и на слух.Естественный способ общения с компьютером - управление с помощью мысли: представил что-то - и оно реализовалось. Но так как большинство отказывается сверлить себе голову и вставлять туда джек, пока обойдемся голосом, это самое доступное приближение к управлению мыслями прямо сейчас.-->https://stfw.ru

Также по теме: