vlkamov (vlkamov) wrote,
vlkamov
vlkamov

Categories:

О любопытстве

Регулярно напоминаю телеологически девственной аудитории, что цель общества [разумных] - развитие. Однако нижеперепощенный текст заставил подумать совершенно крамольную мысль. Вот это
она сама научилась не умирать, так как это дает больше пищи ее любопытству. Правда дальше середины первого уровня пока пройти не может, потому что там требуется очень сложная последовательность четких действий. В результате система отлично предсказывает, что в этом месте она умирает, и ей перестало быть интересным идти дальше.

позволяет подумать, а не достаточно ли в качестве цели - удовлетворение любопытства ? Более того, интуитивно мы чувствуем, что в космос идти надо, но с развитием это напрямую не связано, приходилось изобретать многоходовые комбинации, что во избежание глобальных катастроф, угрожающих всем виду, надо иметь резервные площадки, в том числе и вне солнечной системы.

А тут - напрямую.

О любопытстве нейросетей




На dirty нашелся годный
текст про любопытство нейросетей, достойный того, чтобы перепостить его без исправлений:
----------
Нейросеть самостоятельно научилась играть в Супер Марио при помощи своего любопытства. Как же моделируется любопытство? Это похоже на обучение с подкреплением, только наоборот. При обучении с подкреплением система получает плюшки за правильные действия, и по попе за неправильные. А тут наоборот — чем хуже система предсказывает результат своего действия, тем чаще старается его совершать. И это внутреннее подкрепление, а не внешнее — система сама себе начисляет плюшки.

Например, нейросеть очень быстро перестала нажимать кнопку "вниз", потому что уже заранее знает, что при нажатии ничего не происходит. С кнопками "вверх" и "вправо" наоборот — все время происходит что–то новое, часто неожиданное. Она плохо предсказывает что, поэтому жмет на них снова и снова. Интересно, что она сама научилась не умирать, так как это дает больше пищи ее любопытству. Правда дальше середины первого уровня пока пройти не может, потому что там требуется очень сложная последовательность четких действий. В результате система отлично предсказывает, что в этом месте она умирает, и ей перестало быть интересным идти дальше.

В этом подходе есть и другая ловушка. Если, например, смотреть на белый шум на телевизоре, то практически невозможно предсказать, как он будет выглядеть в следующую минуту. В результате система может залипнуть, потому что на экране все время происходит что–то неожиданное на уровне пикселов. И таких вещей на самом деле много — листья на дереве, облака и т.д. Чтобы этого избежать, надо абстрагироваться от пикселов и мыслить более релевантными категориями. Например, можно игнорировать вещи, которые не влияют на агента, и на которые агент не может повлиять.
----------

Искусственные нейросети становятся все более похожими на человеческое сознание. Скайнет грядет.

На картинке к посту та самая нейросеть играет в того самого Марио.

Этот пост изначально помещен в http://vlkamov.dreamwidth.org
Tags: приматология
Subscribe

  • Они утонули

    ( картинка отсюда https://burckina-new.livejournal.com/2462701.html ) Впрочем, это может иметь веские причины, см заметку Как краб на галерах.…

  • Некустарный хапок

    Глава RFP Group Константин Лашкевич предложил разрешить приватизировать 2–3% от лесной территории России. Это необходимо, чтобы на таких участках…

  • Сдохни, slave

    Московско-кремлевская мразота за несколько месяцев : - надо побольше мигрантов - не хватает рабочих на стройках - надо использовать труд заключенных…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments