Будущее наступило: команды должны были разработать программу, которая должна научиться играть в аркадные игры на Atari 2600, просто смотря на экран и понимая там происходящее

[macklakov]

Цитата:

Сообщение от komar

А проблема понимания (она же проблема смысла) - по-прежнему недосягаема.

Со времен Лема нейрофизиология и прикладная математика далеко ушли. Многие вопросы и проблемы потеряли свою актуальность. Подобно тому, как великие умы ломали голову над тайной гармонии небесных сфер 2 тысячи лет, а потом пришел Ньютон и все опошлил.

Цитата:

Сообщение от komar

"кому нужны человекоподобные роботы в мире, где полно роботоподобных людей" Вместо того, чтобы усложнять программу, почему бы не упростить пользователя до "однокнопочного" существа?

Ну смотри, человека учишь-учишь, он в процессе все ломает, включая свои конечности. И вот, спустя десятилетия, он наловчился что-то делать реально хорошо, ловко, быстро, качественно но в этот момент обнаруживается что уже здоровье подводить начало. А искуственную нейронную сеть один раз как следует научил и тут же этот навык можно распространить на все инстоляции. Все роботы этого типа тут же обретают точно такие же навыки.
Сунул робот клешню куда не следует. Клешню оторвало. Его наказали, клешню новую приделали. Убедились что больше не сует и всех других проапгрейдили. А человекам сколько тренинги не проводи, все равно кто-то найдется кто пальцы себе отрубит. Ибо одно дело когда тебе рассказывают как кому-то пальцы отрубило, а другое дело если тебе самому. У роботов же будет живое воспоминание о том, как клешню оторвало именно ему ибо воспоминания им будут апгрейдиться из центра обновления.

[komar]

Цитата:

Сообщение от macklakov

Со времен Лема нейрофизиология и прикладная математика далеко ушли. Многие вопросы и проблемы потеряли свою актуальность. Подобно тому, как великие умы ломали голову над тайной гармонии небесных сфер 2 тысячи лет, а потом пришел Ньютон и все опошлил.

Теорема Геделя своей актуальности не потеряла. А решение проблем ИИ - это как раз из этой оперы. Другими словами, человек, вероятнее всего, не сможет создать систему аналогичную самому себе, а сможет создавать только более простые (по крайней мере, пока он сам является человеком).

[Ruff]

Сергей Бартунов - Глубокое обучение: деконструкция мифа

Цитата:

Мой тезис заключается в следующем: сегодня глубокое обучение в том виде, в котором оно преподносится нам журналистами или некоторыми не очень добросовестными или не очень разбирающимися в теме экспертами, — современный миф. Сегодня я хочу его деконструировать, поговорить о том, что в нем действительно реально, что работает, что маловероятно работает, какие выводы мы можем извлечь — или, по крайней мере, какие выводы извлек я — и что может прийти на смену глубокому обучению.
...
Иными словами, более эффективная нейросетевая архитектура использует более верные априорные предположения, лучше обходится с информацией о решаемых задачах.
В глубоком обучении произошел уровень повышения абстракции априорных предположений. Если раньше мы кодировали признаки вручную, то теперь мы примерно знаем, как должны быть устроены интересные нам признаки, а выучатся они сами. Но у нас по-прежнему нет черного ящика, который решит за нас всё.
...
Вспомним два примера: DQN и AlphaGo. Интересно то, что указанные системы обучались на симулированных данных. В случае с DQN использовались снимки из эмулятора компьютерных игр, запуск которого гораздо дешевле, чем, например, запуск робота в реальном мире. Если 10 млн виртуальных обучающих объектов мы собрать можем, то собрать 10 млн реальных обучающих объектов гораздо сложнее, особенно если речь идет о состоянии какой-то физической системы.
...
Следующий прорыв может стоить дорого. В следующей предметной области, которая будет «решена» нейросетями, тоже должно быть много обучающих выборок. Если вы хотите построить очень совершенного чат-бота, вам где-то надо найти обучающую выборку. И возможно, вам придется вложить много денег в ее разметку.