€ 70.85
$ 64.25
Маргарет Митчелл: Как создать ИИ, который будет помогать, а не вредить людям

Лекции

Саморазвитие 130 Лидерство 53 Будущее 0 Свой бизнес 35 Образ жизни 15 Экономика 69 История 6

Маргарет Митчелл: Как создать ИИ, который будет помогать, а не вредить людям

Как ученый-исследователь Google Маргарет Митчелл помогает разрабатывать компьютеры, которые могут сообщать о том, что они видят и понимают. Она рассказывает предостерегающую историю о пробелах, слепых пятнах и предубеждениях, которые мы неосознанно программируем в ИИ, и просит нас подумать над тем, что технология, которую мы создаем сегодня, будет означать для будущего

Маргарет Митчелл
Будущее

Моя работа — помогать компьютерам делать сообщения об окружающем мире. Есть много способов сделать это, но мне нравится помогать компьютерам рассказывать о том, что они видят и понимают. Например, на этой картинке современный алгоритм компьютерного видения может распознать, что это — женщина, а это — собака. Он может сказать, что женщина улыбается. Он даже способен сказать, что собака необыкновенно милая. Я работаю над этим, думая о том, как люди понимают и обрабатывают данные о мире. Какие мысли, воспоминания и истории может пробуждать в людях такая вот картинка. Все, что связано с подобными ситуациями. Возможно, вы видели похожую собаку раньше или проводили время, так же бегая по пляжу, и это, в свою очередь, вызывает мысли и воспоминания о прошедшем отпуске, о времени, проведенном на пляже, или времени, когда вы бегали где-то с другой собакой.

Один из моих главных принципов — это помочь компьютерам понять, что значит иметь подобный опыт, понять, чем мы делимся, во что верим и что чувствуем, потому что тогда мы будем готовы начать вовлекать компьютерные технологии в процессы, дополняющие наш собственный опыт. Если копнуть глубже, несколько лет назад я начала помогать компьютерам писать рассказы на основе цепочки изображений. И однажды в ходе работы я спросила компьютер, что он думает о поездке в Австралию. Он взглянул на картинки и увидел коалу. Он не знал, что такое коала, но сказал, что считает ее любопытным созданием. Затем я поделилась с ним цепочкой изображений о горящих домах. Он посмотрел на картинки и сказал: «Удивительный вид! Потрясающе!» У меня по спине побежали мурашки. Он смотрел на ужасное, разрушающее жизни событие и думал, что это нечто положительное. Я поняла, что он распознал контрасты, оттенки красного и желтого и подумал, что это заслуживает позитивной оценки. Отчасти он сделал это, потому что большинство изображений, которые я давала ему, были позитивными. Потому что люди склонны делиться позитивными изображениями, когда рассказывают о своем опыте. Когда вы в последний раз видели селфи на похоронах?

Я осознала, что, совершенствуя искусственный интеллект, задачу за задачей, массив данных за массивом, я создала огромные бреши, дыры и слепые пятна в том, что он мог понимать. И делая это, я закодировала все возможные виды предубеждений. Предубеждений, отражающих ограниченное видение, ограниченное единым набором данных. Пробелы, которые отражают человеческие предубеждения, закодированные в данных, такие как предвзятость и стереотипы. Я подумала об эволюции технологий, которая привела меня к тому, где я оказалась тогда, — как первые цветные фотографии были откалиброваны по коже белых женщин, а значит, цветные фотографии были не приспособлены к темным лицам. И это же предубеждение, это же слепое пятно продолжалось и в 90-е. И это же слепое пятно мы имеем и сегодня в том, насколько хорошо мы можем узнавать разнообразные человеческие лица в технологии распознавания лиц. Я думала о новейших исследованиях, где мы склонны ограничивать свое мышление одним набором данных и одной проблемой. И делая это, мы создавали все больше слепых пятен и предубеждений, которые ИИ смог развить дальше.

Я поняла, что нужно больше думать о том, как технологии, с которыми мы работаем сегодня, будут выглядеть через 5 и 10 лет. Человечество эволюционирует медленно, со временем исправляя проблемы во взаимодействии людей и окружающей среды. Искусственный интеллект, напротив, эволюционирует с невероятной скоростью. И значит, действительно важно внимательно подумать прямо сейчас, что мы прячем в своих слепых пятнах, в своих предубеждениях, как это отражается на технологиях, которые мы создаем, и обсудить, что технологии настоящего будут значить для будущего.

Топ-менеджеры и ученые всего мира говорят о том, каким по их мнению будет искусственный интеллект в будущем. Стивен Хокинг предостерегает: «ИИ может положить конец человечеству». Илон Маск предупреждает, что это один из величайших экзистенциальных рисков, с которым когда-либо сталкивалась наша цивилизация. Билл Гейтс недоумевает: «Я не понимаю, почему люди не обеспокоены». Но эти мнения — это только часть истории. Математика, модели, основополагающие кирпичики искусственного интеллекта — это то, что мы зовем доступом, и с чем работаем. У нас есть инструменты с открытым кодом для машинного обучения и интеллекта, которыми мы готовы делиться. И кроме того, мы можем делиться своим опытом. Делиться своими знаниями о технологиях, и как это нас беспокоит, и как это нас волнует. Мы можем обсуждать, что мы любим. Мы можем общаться, предугадывая, какие аспекты технологий могут стать со временем самыми полезными, а какие — наиболее сомнительными.





Если мы все сосредоточимся на открытом диалоге об ИИ в перспективе будущего, это поможет создать атмосферу общей осведомленности о том, что ИИ представляет собой сейчас, чем может стать и обо всем, что мы должны сделать, чтобы результат лучше всего нам подходил. Мы уже видим и знаем все это о технологиях, используемых сегодня. Мы используем смартфоны, электронные помощники, роботы-пылесосы. Разве они — зло? Может быть, иногда. Они полезны? Безусловно. И все они разные. И в них вы уже видите луч света, освещающий наше будущее. Будущее начинается в том, что мы создаем и строим прямо сейчас. Мы запускаем тот эффект домино, который определит путь развития ИИ.

В нашем настоящем мы задаем форму ИИ будущего. Технологии, которые погружают нас в дополненные реальности, возвращают к жизни прошлые миры. Технологии, которые помогают людям делиться опытом, когда они испытывают трудности в общении. Технологии, основанные на понимании потоковых визуальных миров, используются для самоуправляемых машин. Технологии, основанные на понимании изображений и искусственных языков, превращаются в технологии, которые помогают слабовидящим людям получать доступ к визуальному миру. Но мы также видим, как технологии могут привести к проблемам. Сегодня у нас есть технологии, которые анализируют наши врожденные физические характеристики — такие как цвет кожи или черты лица — чтобы определить, можем ли мы быть преступниками или террористами. У нас есть технологии, анализирующие данные о нас, даже такие данные, как пол или раса, чтобы определить, можем ли мы получить кредит. Все, что мы видим сейчас, это лишь один кадр из эволюции искусственного интеллекта. Потому что то, где мы сейчас, — это всего лишь момент этой эволюции. Это означает, что все, что мы делаем сегодня, окажет влияние на наше будущее.

Если мы хотим, чтобы ИИ развивался для помощи человеку, значит, мы должны определить цели и стратегии, которые зададут этот путь сейчас. Я бы хотела видеть что-то, что хорошо подходит людям, соотносится с нашей культурой и окружением. Технологии, которые помогают тем из нас, кто страдает неврологическими или другими заболеваниями, чтобы сделать жизнь одинаково трудной для всех. Технологии, работающие независимо от вашего цвета кожи или демографических характеристик. Сегодня я сосредоточена на технологиях, которые будут с нами завтра и через 10 лет. ИИ может стать чем угодно. Но в данном случае это не самоуправляемая машина без конечного пункта назначения. Этой машиной управляем мы. Мы выбираем, когда следует ускориться, а когда замедлиться. Мы выбираем, когда нам нужно повернуть. Мы выбираем, каким будет ИИ будущего. Есть бесчисленное множество вещей, которыми может стать искусственный интеллект. И он станет множеством вещей. И наша задача сегодня — выяснить, что именно мы должны вложить в ИИ, чтобы полученные результаты стали самыми лучшими для всех нас. Спасибо.

Перевод: Мария Ригерт
Редактор: Юлия Каллистратова

Источник

Свежие материалы