Искусственный интеллект стал таким сложным, что его создатели перестали понимать, как он принимает решения.
Искусственный интеллект просачивается во все уголки современной жизни – от распознавания друзей на фото в Facebook до освоения космоса.
Но сейчас разработчики, которые его создали, заявляют, что не знают, почему ИИ принимает то или иное решение.
Искусственная нейронная сеть имеет миллионы крошечных соединений между «нейронами», которые имитирует связи нейронов в мозге человека. Поскольку вычисления в этих соединениях очень сложны, теперь исследователи не могут точно определить, что и как происходит. Они просто получают результат, который работает.
Эндрю Уилсон, профессор по ИИ в Корнельском университете использовал ИИ для решения проблемы своего исследования еще в 2007 году. Хотя он получил ответ, который искал, он не узнал, как именно была решена проблема. Уилсон уверен: использование возможностей ИИ было неполным. Ведь понимание внутренних правил алгоритма могло бы открыть новый путь для исследований.
На декабрьской конференции Neural Information Processing Systems в Лонг-Бич, Калифорния, сразу несколько исследователей заявили о проблеме. Они считают, что необходимо начать действовать прямо сейчас. Чтобы понять решения машин прежде, чем технология ИИ станет еще более распространенной. «Мы не хотим руководствоваться решениями, которые мы не понимаем», – сказал ученый Джейсон Йосински.
Кири Вагстафф работает над созданием ИИ, который сортирует изображения, сделанные в космосе аппаратами НАСА. Так как этих изображений миллионы, ИИ мог бы сэкономить время при отборе интересных изображений. Но, только если ИИ знает, как выглядит «интересное» изображение.
«Если вам просто показывают изображение, про которое компьютер сказал «О, это интересно, взгляните», вы оказываетесь в странном положении, потому что сами вы не видели все миллионы изображений. Вы не знаете, почему это интересно – из-за цвета, формы, расположения?», – говорит Вагстафф.
Проблема «черного ящика» ИИ может обойтись очень дорого, например, во время таких операций, как космическая миссия на Марс. Если будет принято неправильное решение без возможности корректировки, миллиарды долларов будут утеряны.
Предыдущие исследования показали, что ИИ может принимать предвзятые решения и делать неправильно обоснованные выводы из данных.
Но понимание алгоритма нужно не только, чтобы противостоять предвзятости или убедиться, что марсоход не упадет с марсианской скалы. Знание того, почему произошел сбой может помочь исследователям ИИ построить более точные системы. «Если система не работает, и вы не знаете почему, тогда вы не сможете ее починить. А, значит, любое решение вслепую будет поспешным», – заявил Джейсон Йосински.
Ученые ищут методы, чтобы понять логику искусственного интеллекта. «В школе мы просим учащихся подкрепить свой выбор объяснением, чтобы доказать, что они что-то поняли. И теперь мы ожидаем, что машины смогут сделать то же самое», – заявили ученые для Quartz Media.
