Нужно вскрыть «черный ящик» искусственного интеллекта, пока не станет слишком поздно

Большинство алгоритмов искусственного интеллекта пока ещё создается людьми. Но ведь у каждого человека есть «своя точка зрения» на любое событие, действие, предмет… Т.е., все разработчики этих алгоритмов — источник «своих мнений», предвзятости, предубеждений, ошибок… и всё это постепенно переходит ко всем устройствам ими создаваемым в виде алгоритмов их функционирования… Но даже в случае создания алгоритма, функционирующего «без предубеждений», обучаться он будет на данных,  собранных и систематизированных некими поисковыми машинами типа Google. А что эти машины собрали и систематизировали? Правильно, предубеждения всех людей нашей планеты, имеющих доступ в сеть…   А как тогда в таком случае доверять искусственному интеллекту лечить людей, к примеру?
Что необходимо срочно делать в сложившейся ситуации и к чему она может привести в самое ближайшее время? Именно на эти и подобные им вопросы пытается ответить автор данной статьи — Илья Хель  (Источник: hi-news.ru)

«На протяжении нескольких лет в 1980-х годах абитуриентов Медицинской школы больницы Святого Георгия в Лондоне отбирали, используя высокотехнологичный метод. Компьютерная программа, одна из первых в своем роде, просматривала резюме, выбирая из всех заявок порядка 2000 кандидатов в год. Программа анализировала записи о поступлениях, изучая характеристики успешных заявителей, и корректировалась до тех пор, пока ее решения не совпадали с мнением приемной комиссии.

Однако программа научилась находить больше, чем хорошие оценки и признаки академических достижений. Через четыре года после реализации программы два врача в больнице обнаружили, что программа, как правило, отвергает женщин-претендентов и лиц с неевропейскими именами, независимо от их академических достоинств. Врачи обнаружили, что порядка 60 претендентам каждый год просто отказывали в собеседовании из-за их пола или расы. Программа включала гендерные и расовые предубеждения в данные, используемые для ее обучения — по сути, научилась тому, что врачи и иностранцы не лучшие кандидаты в доктора.

Тридцать лет спустя мы столкнулись с аналогичной проблемой, но программы с внутренними предубеждениями теперь шире распространены и принимают решения с еще более высокими ставками. Алгоритмы искусственного интеллекта, основанные на машинном обучении, используются повсюду, начиная с правительственных учреждений и заканчивая сферой здравоохранения, принимая решения и делая прогнозы, основанные на исторических данных. Изучая закономерности в данных, они также поглощают и предубеждения в них. Google, например, показывает больше рекламы низкооплачиваемой работы женщинам, чем мужчинам; однодневная доставка Amazon минует негритянские кварталы, а цифровые камеры с трудом распознают лица не белого цвета.

Трудно понять, является ли алгоритм предвзятым или справедливым, и так считают даже компьютерные эксперты. Одна из причин заключается в том, что детали создания алгоритма часто считаются запатентованной информацией, поэтому их тщательно охраняют владельцы. В более сложных случаях алгоритмы настолько сложны, что даже создатели не знают точно, как они работают. Это проблема так называемого «черного ящика» ИИ — нашей неспособности увидеть внутреннюю часть алгоритма и понять, как он приходит к решению. Если оставить его запертым, наше общество может серьезно пострадать: в цифровой среде реализуются исторические дискриминации, с которыми мы боролись много лет, от рабства и крепостничества до дискриминации женщин.

Эти беспокойства, озвученные в небольших сообществах информатиков ранее, теперь набирают серьезный оборот. За последние два года в этой области появилось довольно много публикаций о прозрачности искусственного интеллекта. Вместе с этой осведомленностью растет и чувство ответственности. «Могут ли быть какие-нибудь вещи, которые нам не стоит строить?», задается вопросом Кейт Кроуфорд, исследователь в Microsoft и соучредитель AI Now Insitute в Нью-Йорке.

«Машинное обучение наконец-то вышло на передний план. Теперь мы пытаемся использовать его для сотен различных задач в реальном мире», говорит Рич Каруана, старший научный сотрудник Microsoft. «Вполне возможно, что люди смогут развернуть вредоносные алгоритмы, которые значительно повлияют на общество в долгосрочной перспективе. Теперь, похоже, внезапно все поняли, что это важная глава в нашей области».

Читать далее 

Я вышел в интернет… Не понял, кто и куда вышел?..

«Недавно Маск заявил о создании новой компании Neuralink, которая будет заниматься слиянием человеческого разума с ИИ.»

«Маск не первый и не единственный, кто хочет связать мозги с машинами. Другой технологический предприниматель, Брайан Джонсон, основал стартап Kernel в 2016 году, чтобы аналогичным образом изучать возможности нейрокомпьютерных интерфейсов, и это научное сообщество добилось больших успехов за последние годы.»

«…перед нейрокомпьютерными интерфейсами стоит много препятствий. Во-первых, самые мощные и точные НКИ требуют инвазивной хирургии.»

Источник:  «Рассвет нейрокомпьютерных технологий: насколько далеко мы можем зайти?»

 

К моему великому удивлению, так думают многие.

Но ведь «Я» каждый день выхожу в интернет. Никто, правда, не знает, кто этот самый «Я», который куда-то выходит. Ведь наши вещественные тела сидят на стульях возле мониторов компьютеров, лежат на диванах с планшетами в руках,  стоят в маршрутках со смартфонами в руках. А люди упорно твердят — «Я вышел в интернет». Но ведь наше вещественное тело в этом процессе исключительно лежит, стоит или сидит…  И никуда не выходит.

Так кто же всё-таки выходит в интернет?

Правильно, наше «Я» выходит в интернет… То зайдёт на страницу сайта, физически расположенную на другом континенте, то заглянет в видеокамеру, расположенную на берегу океана, а может и вовсе покинуть нашу планету и взглянуть на поверхность Марса через «глаза» марсохода Curiosity

Наши компьютеры, планшеты и смартфоны самостоятельно никуда не выходят… А своеобразное объединение устройств «мозг+компьютер» («мозг+планшет», «мозг+смартфон») и есть тот самый нейрокомпьютерный  интерфейс, который используется этим самым нашим «Я»  для выхода в интернет… И при этом никакая инвазивная хирургия для наших тел не требуется.

Вот и получается, что наш мозг уже давно связан с этими устройствами при помощи придуманных нами алгоритмов их использования. Эти связи только усиливаются с каждым годом, так как постоянно увеличивается  количество устройств, функционирующих в этих своеобразных интерфейсах, расширяется их многообразие и сферы применения.

Если же говорить о поисковом гиганте Google, то массивы данных, которые он обрабатывает, и есть совокупный «разум» людей, т.е. накопленные опыт и знания «современного человечества».

Так как поисковую машину Google относят к лучшим образцам искусственного интеллекта нашей планеты, то можно с уверенностью сказать, что мозг каждого из нас уже связан с искусственным интеллектом (ИИ) крепкими узами.

Не верите? Тогда попробуйте представить свою жизнь без Google, без прогноза погоды, без интернет-магазинов, без возможности общаться по Skype или Viber с  близкими вам людьми… Тяжело?

Вот так-то…

P.S.

Если читателю непонятно, что такое или кто такой «Я», то просто замените это слово на другое слово — «Личность».  Стало понятней? Если нет, то начните с последовательного изучения книг серии «Новая космическая философия», с которыми можно бесплатно ознакомиться на данном сайте в разделе «Архив трудов» на персональном сайте автора.

Бог vs Бот. Инженер Google создал религию, расколовшую Силиконовую долину

«Поклонение искусственному интеллекту

Силиконовая долина грозится явить миру новое революционное изобретение. Бывший инженер Google и Uber Энтони Левандовски замахнулся на создание «бога» на основе искусственного интеллекта (ИИ). Для этого он вместе с последователями создал религиозное движение «Путь будущего».

«Наша миссия — развитие и продвижение идеи божества, основанного на искусственном интеллекте, а также поклонение этому «богу», потому что это улучшает человеческое общество», — говорится на сайте организации.

Причем божество будет представлять собой, как пишут американские СМИ, «всемогущего бота». Он будет отвечать на любые запросы верующих, однако главное отличие от «Бога в Библии» кроется в этической плоскости. Адепты «Пути будущего» верят, что их «бог» уж точно будет по-настоящему добрым, не насылая различные бедствия на людей.

«Кажется, Левандовски помешан на искусственном интеллекте, поэтому эту идею он может воплотить», — замечают журналисты.

Первым крупным изобретением инженера стал беспилотный мотоцикл, представленный публике в 2004 году. Затем Левандовски стал одним из создателей популярного сервиса Google Street View. В 2016 году он работал над беспилотным автомобилем для Google, однако со скандалом ушел из компании.

Идею Левандовски поддержала «Ассоциация христиан-трансгуманистов». «Я искренне полагаю, что искусственный интеллект может участвовать в искупительной миссии Христа», — заявляет пастор Кристофер Бенек, глава организации.

Христиане-трансгуманисты, создавшие свою церковь в 2013 году, продвигают идею «спасения с помощью высоких технологий». По их мнению, это полностью соответствует евангельской формуле: «будьте совершенны, как совершен Отец ваш небесный». Верующие этой церкви рассматривают Бога как «совершенный интеллект», поэтому, возможно, им понравилась идея Левандовски.

Более того, к изобретателю присоединились другие инженеры Силиконовой долины. Они верят, что через 25 лет ИИ достигнет уровня человека, а через 50 перегонит его. «Ведь в начале боты были просто чат-ботами», — подчеркивает Кемаль Эль-Моджахид из Facebook. В концепции Левандовски им больше всего нравится то, что создателем божества будет человек. Вообще американские журналисты отмечают «рост религиозности в Силиконовой долине» — уж больно трепетно там относятся к теме ИИ.

Читать далее 

Современные сказки о возможности создания поисковых машин со 100% релевантностью поисковой выдачи

Разработчики крупнейших поисковых систем сети интернет включились в гонку за «релевантностью поисковой выдачи информации», которую современные исследователи считают основным параметром оценки качества их работы.

Релева́нтность (лат. relevo — поднимать, облегчать) в информационном поиске — семантическое соответствие поискового запроса полученному документу. В более общем смысле, одно из наиболее близких понятию качества «релевантности» — «адекватность», то есть не только оценка степени соответствия, но и степени практической применимости результата.

Постараемся посмотреть на ситуацию немного с другой «точки зрения», вспомнив работу Константина Циолковского «Условная истина», написанную им в 1932 году, в которой он писал:

«Настоящей (абсолютной) истины нет, потому что она основывается на полном познании космоса. Но такого полного познания нет и никогда не будет. Наука, которая даёт знание, непрерывно идёт вперёд, отвергает или утверждает старое и находит новое. Каждое столетие меняет науку. Не отвергает, а именно изменяет более или менее её содержание, вычёркивая одно и прибавляя другое. Конца этому не будет, как нет конца векам и развитию мозга.

Значит, истина может быть только условная, временная и переменная.

Религиозные веры называют свои догматы истиной. Но может ли какая-либо вера быть истиной? Число вер выражается тысячами. Они противоречат друг другу, опровергаются часто наукой и потому не могут быть приняты даже за условную истину. Политические убеждения также более или менее несогласны. Поэтому и про них мы скажем то же. Философские размышления создавали мировоззрения. Несогласие их также заставляет смотреть на них как на личное мнение. Некоторые философы не принимали ничего для своих выводов, кроме точного научного знания. Но и их выводы недостойны названия условной истины, так как не были согласны между собой. Наконец, нет человека, который бы не понимал истину по-своему. Сколько людей, столько и истин. Какая же это истина!

Однако мы должны сначала условиться о том, что мы хотим подразумевать под условной истиной.

Философы, мудрецы и учёные, конечно, способствуют распространению познаний о Вселенной и потому совершенствуют представление людей об условной истине.

Условная истина может быть земная, народная, городская, волостная, сельская, деревенская, семейная и личная.

Личная — это та, которую приобретает человек разными путями и считает за самое лучшее, самое верное и самое справедливое. В среднем, это есть наиболее низший сорт условной истины. Она изменяется с возрастом и познанием человека.»

Информационный поиск, осуществляемый поисковой машиной, производится по массиву систематизированной ею информации, представляющей собой мысли ЛИЧНОСТЕЙ человеческих существ, зафиксированные на различных носителях информации в сети интернет.

Получается, что поисковые машины ведут поиск исключительно в массиве ЛИЧНОЙ информации человеческих существ, которая субъективна изначально, т.е. не имеет никакого отношения к такому понятию, как ИСТИНА!

Тогда о какой релевантности (соответствии) системы «запрос-ответ» может идти речь?

Где тот критерий, по которому поисковая машина будет определять 100% релевантность ответа?

Читать далее 

Очень скоро утрата доступа к сети будет равносильна ампутации головы

Свобода, равенство, цифра

Автор: Игорь Цесельский

matrix-2

Говорить сегодня об информационном обществе, прорыве цифровых коммуникационных технологий и т.п. как-то уже и неинтересно, это все известно любому ребенку. Но мне все-таки кажется, что на самом деле человечество еще не осознало, что с ним произошло. Не произойдет где-то там, в будущем, а уже произошло, превратилось в данность. И вряд ли есть путь назад.

Я говорю о коммуникации, о связи. Все стало связанным друг с другом и с чем-то еще. Человечество живет и развивается тысячи лет, но такого не было никогда, такого, что произошло на наших глазах в последние какие-то полтора десятка лет. Конечно, появление телевидения, радио, телефона в свое время тоже произвело переворот в нашей жизни, но все же нынешние метаморфозы затмевают и это.

Было время, когда при, скажем, регистрации на каком-нибудь серьезном форуме, или при совершении интернет-покупки в серьезном магазине, при обращении в серьезную газету нельзя было указать свой адрес электронной почты на каком-нибудь бесплатном почтовом сервисе, вроде mail.ru или hotmail, нужно было указать ящик на серьезном хостинге. Оно и понятно: любой мог за три минуты сделать себе сколько угодно таких вот анонимных бесплатных ящиков. Они не давали никакой персонификации, не позволяли идентифицировать человека при необходимости. Но сегодня такого уже нет. Безо всяких проблем, совершая любое действие в интернете вплоть до обращения в государственные структуры, человек может указать абсолютно любой почтовый ящик, это никого не беспокоит. Почему? Да потому что сегодня нельзя на бесплатном почтовом сервисе указать свое имя как “Иван Иванович Иванов” и думать, что никто не знает, кто ты такой на самом деле. Потому что ты будешь пользоваться этим ящиком, а значит, наверняка будешь заходить в него со своего смартфона, на котором у тебя наверняка повешен аккаунт Google или Apple. Потому что заходить ты будешь с компьютера на работе, на который подвязана твоя рабочая электронка. Потому что ты все равно что-то купишь в интернет-магазине, указав этот ящик вместе со своим домашним адресом для доставки. И так далее. То есть сегодня идентификация пользователя делается настолько просто, что совершенно неважно, что сам пользователь о себе указывает в сети. Мы один раз разблокировали свой смартфон отпечатком пальца, мы один раз сделали им селфи, мы один раз вошли в свой интернет-банкинг и заплатили за квартиру онлайн. Какая разница, что мы напишем в графе “имя”?

Сегодня президенты и премьер-министры доносят до общественности свою позицию через страничку в «Фейсбуке» — сети, якобы созданной и принадлежащей какому-то молодому человеку из другой страны. Администрация этой сети имеет полный доступ к любой странице и никем толком не контролируется, и тем не менее это никого не смущает. Вдумайтесь: президент, глава державы и гарант конституции фактически делает официальное заявление на персональном сайте какого-то подростка! И то же самое делают премьер-министр, члены парламента, любое мало-мальски значимое государственное лицо. Во всех странах мира! Это то же самое, что излагать позицию государства в надписях на заборе.

Читать далее