Произвольного внимания пример: что это такое, характеристики (с примерами)

Содержание

что это такое, характеристики (с примерами)

Наши психические познавательные процессы это то, что делает нас уникальными, отличными от животных. Они всегда работают сообща: наши ощущения позволяют составить впечатление о явлении, восприятие отражает действительность внутри нашего сознания, мышление привлекает к работе другие функции мозга и так далее. В этой статье я дам определение термину произвольное внимание и подробно объясню, что это такое в психологии, как оно влияет на наши представления об окружающем мире и как взаимодействует с психомоторными способностями человека.

 

Описание

Если попытаться обозначить понятие общими словами – эта функция является тем самым механизмом, который запускает познавательную активность мозга в отношении конкретного явления окружающего мира или предмета. Далее, подключаются и другие процессы, решающие самые разные задачи. В конечном итоге мы имеем некое представление обо всем, что существует вокруг нас. 

Я выделю три вида внимательности:

  1. Произвольное внимание характеризуется тем, что индивид заранее ставит себе цель – понять и запомнить что-либо.
  2. Непроизвольное не требует от человека прикладывания каких-либо стараний.
  3. Послепроизвольное является своеобразным продолжением произвольного, но силы уже не затрачиваются, а выполняются в автоматическом режиме.

Необходимость использования усилий к пониманию и запоминанию определяется самим отношением личности к событию, его личным опытом, испытываемым интересом или его отсутствием. Со временем даже самая важная ситуация, требуемая обращения к силе воли, несколько сглаживается и становится безразличной – тогда происходит переход первого вида ко второму.

Особенности произвольного внимания

Отличительных черт у этого типа психических процессов не мало, но главной остается постановка конкретной задачи. Человек сам определяет то, что хочет понять, запомнить, чему желает научиться. Следующим этапом является некая программа, которая реализуется с использованием познавательной функции.

При этом произвольное внимание не обусловлено врожденными навыками и талантами, кроме силы воли. Оно развивается постепенно, шаг за шагом, в конечном итоге переходя в новую форму. Одним людям проще развить его, другим – сложнее. Но главной функцией в любом случае останется активное регулирование всех психических процессов, происходящих в головном мозге, в том числе памяти, мышления.

Отдельно выделю следующие особенности:

  1. Опосредованность и осознанность использования. Приложение волевых усилий для сосредоточения происходит в определенной ситуации, выбранной индивидом и всегда контролируемой им.
  2. Произвольность. У личности должно существовать намерение сделать или понять что-либо.
  3. Возникновение в ходе эволюции и развития человеческого общества. Этот вид внимания недоступен животным.
  4. Формирование на протяжении всей жизни, начиная с раннего детства.
  5. Прохождение нескольких фаз развития.
  6. Зависимость от обучения со взрослыми, особенно если речь идет о школе.

Дополнительно отмечу, с точки зрения физиологии, эта познавательная функция живет в коре больших полушарий. Та же часть мозга отвечает за поведение человека и его деятельность.

Причины возникновения 

Поводом к появлению психического процесса можно назвать взаимосвязь, возникающую между уже полученным ранее опытом и новой поставленной задачей. Как только определяется цель и план, способствующий ее достижению, запускается механизм намеренного сосредоточения. Чем чаще используется функция, тем быстрее происходит переключение, а значит, результат достигается все лучше, стремительнее и эффективнее.

Психолог Дарья Милай

Всю эту работу можно сравнить с выработкой условного рефлекса в практике бихевиоризма. Простой пример произвольного внимания – усвоения ребенком правил дорожного движения: изо дня в день при приближении к пешеходному переходу его учат, что необходимо посмотреть по сторонам, убедиться в безопасности и лишь после этого идти. В конечном итоге напоминание к совершению этих действий перестает требоваться, так как входит в привычку.

Говоря о первопричинах, обязательно следует отметить и важность процесса в контексте защищенности, а возможно, и выживаемости. Механизм не зря формировался на протяжении всего периода эволюции и развитии человека. Чем важнее ситуация для сохранения жизни и здоровья, тем быстрее усвоится процесс – оперативнее перейдет от произвольного к постпроизвольному. Влияет на лучшее освоение программы и собственный интерес индивида.

Виды и характеристики

Принято выделять несколько типов произвольного сосредоточения, каждый из них обладает собственными уникальными чертами. Разделить внимательность можно по общим признакам на следующие формы:

  1. Волевая – механизм включается только в конфликтных ситуациях между условиями «мне надо» или «я должен», диктуемыми обществом, родительскими установками, правилами, и индивидуальными «я хочу». При этом переключиться на обязательное выполнение установленных кем-то положений помогает именно сила воли и усилия.
  2. Выжидательная – требуется, когда определенная ситуация продолжается длительное время, и на протяжении всего срока от человека требуется проявление бдительности. При этом ошибка может привести к неприятным последствиям. Особенно актуален этот вид сосредоточения во взрослой жизни, например, в трудовой сфере.
  3. Сознательная – этот тип уникален вдвойне. С одной стороны, его выполнение всегда намеренно, но с другой – усилия прикладываются незначительные, например, в силу собственного интереса человека, привлекательности ситуации.
  4. Спонтанная – такая форма проявляется, если трудно начать новое действие, но после преодоления первого барьера происходит переключение на постпроизвольный тип внимательности, а значит, больше стараний прилагать не нужно или они минимальны.

В раннем и дошкольном возрасте любая из представленных выше разновидностей сосредоточения развита слабо – основной задачей педагогов и родителей становится обучение и тренировка.

Очная консультация

Каковы особенности и преимущества очной консультации?

Консультация по скайпу

Каковы особенности и преимущества консультаций по скайпу?

 

Что такое произвольное внимание у детей

Несмотря на то что длительный интерес не доступен для малышей до их поступления в школу, где начинается серьезная подготовка, уже в младенчестве можно увидеть зачатки познавательного процесса. Например, в тот момент, когда взрослые показывают ребенку яркую игрушку, он внимательно следит за ней взглядом. Этот показатель является одним из ключевых в определении степени психического развития в первые месяцы жизни.

Через пару лет формирование навыка становится более активным, а к 4-5 годам малыш может выполнять инструкции воспитателя или родителя во время обучения. На этом этапе важным остается поддержание интереса ребенка и вовлечение этого процесса в игровую деятельность. К моменту поступления в школу волевые навыки развиваются достаточно для того, чтобы школьник мог самостоятельно определять для себя цель, давать инструкцию к ее достижению и составлять некую программу.

Временной промежуток, на протяжении которого дети способны удерживать сосредоточенность на конкретном деле, гораздо меньше, чем у взрослых. Поэтому крайне важно учитывать возрастные особенности и не предъявлять слишком высокие требования. Даже самая увлекающая игра не заинтересует трехлетку больше, чем на 20 минут, как и занимательный урок не удержит ребенка за партой дольше, чем на 45 минут.

Формирование 

Чтобы научиться сосредотачиваться на чем-либо, недостаточно одних желаний или талантов –  если речь идет о маленьком ребенке. Гораздо более важной оказывается подготовительная работа, проводимая взрослыми. Помочь быстрее освоить новый навык могут несколько ключевых факторов:

  1. Умение группировать по виду, цвету, форме, другим показателям (они зависят от возраста).
  2. Четкое обозначение правил игр, а также ее начала и завершения.
  3. Последовательные инструкции, даваемые воспитателем или родителем.
  4. Дозирование нагрузок с учетом возрастных особенностей психики.

Важно также правильно организовать тренировочный процесс, особенно если он строится одновременно с группой детей, как происходит в детском саду. Педагог должен быть не только настойчивым в своем стремлении обучить, но и последовательным, логичным, гибким. Индивидуальный подход – вот залог успешного усвоения предлагаемого материала.

Развитию волевых качеств способствует также физическое воспитание. Именно спортивные занятия и игры впервые учат детей целеустремленности, следованию правилам, воспитывают самостоятельность и активность. При этом не стоит забывать, что ребенок имеет право совершать ошибки, отвлекаться. Процесс должен быть постепенным и аккуратным, а не жестким и агрессивным. Ощутимые плоды приносят регулярные занятия и совместная работа воспитателей и родителей.

Постпроизвольное сосредоточение

Определение послепроизвольного внимания в психологии – это процесс, возникающий, если во время осуществления какой-либо деятельности, значимым и интересным для человека становится не столько результат, сколько сама работа. 

Говоря простым языком, нас настолько захватывает какое-то дело, что прилагать даже самые маленькие волевые усилия для успешного его завершения не требуется. Желание сделать больше, достичь новых результатов, решить задачи – все усиливается.

Обычно об этом виде говорят как о продолжении произвольного. Примером послепроизвольного внимания является обучение в школе – изучая новую тему на уроке, ученикам приходится заставлять себя слушать слова учителя, следовать его инструкциям, но в какой-то момент процесс изучения становится настолько интересным, что прикладывать усилия уже не требуется. Школьник полностью концентрируется на решении задачи не для получения ответа или хорошей оценки, а потому что ему интересен сама мыслительная деятельность.

Задайте вопрос

Все хобби человека с самого первого дня требовали от него намеренного сосредоточения и лишь через какое-то время стали увлекать и захватывать так, что этому делу хотелось уделять все больше своих сил. Музыкант играет на пианино не для того, чтобы собирать концертные залы, а потому что ему нравится сама процедура создания новой музыки своими руками.

Особенности 

Поскольку эта форма сосредоточения буквально вытекает из произвольной, они во многом имеют схожие черты. Но есть и уникальные признаки, характеризующие познавательный процесс:

  1. Увлеченность человека выполняемой деятельностью.
  2. Отсутствие волевого усилия.
  3. Удержание сознания на объекте действия. Все вокруг как будто перестает существовать, кроме единственного предмета.
  4. Практически полное отсутствие реакции на внешние раздражители. Это значит, что, взявшись за интересное дело, индивид не отвлекается на посторонние разговоры. Чтобы отвлечь его от занятия, необходимо очень постараться.

Главная черта этого вида кроется в том, что оно исходит из самых глубин личности человека, строится на особенностях характера, предпочтениях, желаниях.

Формирование 

Поскольку оно всегда берет начало в намеренном сосредоточении, можно с уверенностью сказать, что развитие его начинается с тех же самых механизмов, затрагивающих те же физиологические структуры мозга. Но в какой-то момент на первый план выходят другие факторы. Постепенно преодолевая возникшие трудности, заставляя себя и, возможно, переступая через свои желания, индивид фактически привыкает к деятельности.

Появляется некоторый интерес, если его удержать на таком же уровне или даже усилить, он полностью захватит человека. Воля ослабевает, поскольку организму уже не нужно тратить собственные силы на поддержание работы. При этом результат не становится хуже, продуктивность не падает, а, наоборот, возрастает с каждой минутой. Два вида познавательных процессов объединяет полная осознанность своих действий и постоянный их контроль.

Единственное, что может нарушить сформированное постпроизвольное внимание  – это утомление. Уставший индивид не способен поддерживать внутренний интерес, особенно явно это заметно у школьников. Сложная образовательная программа, большое количество предметов и факультативов, недостаток сна и отдыха – все это провоцирует изнеможение, а оно ведет к отказу от использования любых психических навыков.

Заключение

Произвольное и послепроизвольное сосредоточение одинаково важны для человека. Первое служит основой всего обучения, изучения мира, второе – позволяет задействовать максимальный физические и психические ресурсы, а значит достичь лучшего результата за минимально возможный срок.

Задача родителей, воспитателей и педагогов – вовремя развить в ребенке потенциал. При этом делать это нужно таким образом, чтобы не оттолкнуть скучными занятиями, книгами, играми.В этой статье я рассказала о произвольности интереса, описала, что это такое, и объяснила, в каком возрасте у личности начинает складываться произвольное внимание. Если вы не можете найти свое любимое дело, не знаете, что делать дальше, запишитесь на мою консультацию. Вместе мы решим все ваши проблемы. Увлеченный человек становится более успешным в профессиональной деятельности. Если все время приходится прилагать слишком много усилий, наступает усталость, а значит, отрицается сама необходимость что-либо делать.

В сложных жизненные ситуациях, возникает ощущение безысходности и отчаяния. Самым действенным способом является личная консультация.

Часовая встреча по вашему уникальному запросу в Москве.

Записаться на консультацию

Интенсивный ритм жизни?
Получите он-лайн консультацию из любого уголка мира.

Skype, Viber.

Записаться на консультацию

Управление персоналом, образование, личное развитие. Тесты. Внимание. Память. IQ-тесты. Effecton Studio. Эффектон

Виды внимания

Рассмотрим основные виды внимания. Это

  • природное и социально обусловленное внимание,
  • непосредственное и опосредствованное внимание,
  • непроизвольное и произвольное внимание,
  • чувственное и интеллектуальное внимание.

Природное внимание дано человеку со дня его рождения как врожденная способность избирательно реагировать на те или иные внешние или внутренние стимулы, несущие в себе элементы информационной новизны. Основной механизм, обеспечивающий работу такого внимания, называется ориентировочным рефлексом.

Социально обусловленное внимание складывается в результате жизненного опыта, обучения и воспитания, связано с волевой регуляцией поведения, с сознательным избирательным реагированием на объекты.

Непосредственное внимание не управляется ничем, кроме того объекта, на который оно направлено и который соответствует актуальным интересам и потребностям человека.

Опосредствованное внимание регулируется с помощью специальных средств, например жестов, слов, указательных знаков, предметов.

В самом деле, трудно заставить себя быть внимательным к чему-то, с чем ничего нельзя сделать, что не вызывает нашей внешней или внутренней активности. Но есть предметы и явления, которые как бы приковывают к себе внимание, иногда даже вопреки нашему желанию. В одном случае надо заставить себя быть внимательным, а в другом — предмет как бы сам обеспечивает внимание, заставляет на себя смотреть, слушать и т.д.

Здесь можно сказать о двух различающихся видах внимания — непроизвольном и произвольном внимании. Непроизвольное (пассивное) внимание, в возникновении которого наше намерение не принимает участия, и произвольное (активное), возникающее благодаря нашему намерению, вследствие приложения нами усилия воли. Таким образом, само запоминается то, на что направлено непроизвольное внимание; то, что надо запомнить, нуждается в произвольном внимании.

Непроизвольное внимание

Непроизвольное внимание — более низкая форма внимания, которое возникает в результате воздействия раздражителя на какой-либо из анализаторов. Оно образуется по закону ориентировочного рефлекса и общее для человека и животных.

Возникновение непроизвольного внимания может быть вызвано особенностью воздействующего раздражителя, а также обусловливаться соответствием этих раздражителей прошлому опыту или психическому состоянию человека.

Иногда непроизвольное внимание может быть полезным, как в работе, так и в быту, оно дает нам возможность своевременно выявить появление раздражителя и принять необходимые меры, и облегчает включение в привычную деятельность.

Но в то же время непроизвольное внимание может иметь отрицательное значение для успеха выполняемой деятельности, отвлекая нас от главного в решаемой задаче, снижая продуктивность работы в целом. Например, необычный шум, выкрики и вспышки света во время работы отвлекают наше внимание и мешают сосредоточиться.

Причины возникновения непроизвольного внимания

Причинами возникновения непроизвольного внимания могут быть:

  1. Неожиданность раздражителя.

  2. Относительная сила раздражителя.

  3. Новизна раздражителя.

  4. Движущиеся предметы. Т. Рибо выделил именно этот фактор, считая, что в результате целенаправленной активизации движений происходит концентрация и усиление внимания на предмете.

  5. Контрастность предметов или явлений.

  6. Внутреннее состояние человека.

Французский психолог Т. Рибо писал, что характер непроизвольного внимания коренится в глубоких тайниках нашего существа. Направление непроизвольного внимания данного лица обличает его характер или, по меньшей мере, его стремления.

Основываясь на этом признаке, мы можем вывести заключение относительно данного лица, что это человек легкомысленный, банальный, ограниченный, или чистосердечный и глубокий. Красивый пейзаж привлекает внимание художника, действуя на его эстетическое чувство, тогда как местный житель в этом же пейзаже видит лишь что-то обыденное.

Произвольное внимание

Если Вы скажете мне, на что Вы обращаете внимание, то я смогу определить кто Вы: прагматик или высоко духовная личность. Здесь речь идет уже о другом виде внимания — произвольном, преднамеренном, активном.

Если внимание непроизвольное есть и у животных, то произвольное внимание возможно только у человека, и возникло оно благодаря сознательной трудовой деятельности. Для достижения определенной цели человеку приходится заниматься не только тем, что само по себе интересно, приятно, занимательно, делать не только то, что хочется, но и то, что необходимо.

Произвольное внимание более сложное и свойственное только человеку формируется в процессе обучения: в быту, в школе, в труде. Оно характерно тем, что направляется на объект под влиянием нашего намерения и поставленной цели. Здесь все просто, нужно поставить цель: «Мне надо быть внимательным, и я заставлю себя быть внимательным, несмотря ни на что», и упорно идти к этой цели.

Физиологический механизм произвольного внимания

Физиологическим механизмом произвольного внимания служит очаг оптимального возбуждения в коре мозга, поддерживаемый сигналами, идущими от второй сигнальной системы. Отсюда очевидна роль слова родителей или преподавателя для формирования у ребенка произвольного внимания.

Возникновение произвольного внимания у человека исторически связано с процессом труда, т.к. без управления своим вниманием невозможно осуществлять сознательную и планомерную деятельность.

Психологическая особенность произвольного внимания

Психологической особенностью произвольного внимания является сопровождение его переживанием большего или меньшего волевого усилия, напряжения, причем длительное поддерживание произвольного внимания вызывает утомление, зачастую даже большее, чем физическое напряжение.

Полезно чередовать сильную концентрацию внимания с менее напряженной работой, путем переключения на более легкие или интересные виды действия или же вызвать у человека сильный интерес к делу, требующему напряженного внимания.

Человек прилагает значительное усилие воли, концентрирует свое внимание, понимает содержание необходимое для себя и уже дальше без волевого напряжения внимательно следит за изучаемым материалом.

Его внимание становится теперь вторично непроизвольным, или после-произвольным. Оно будет значительно облегчать процесс усвоения знаний, и предупреждать развитие утомления.

Внешне- и внутренне-направленное внимание

Внимание может быть обращено либо на объекты внешнего мира, либо на мысли, чувства, воспоминания. По этому признаку различают внешне- и внутренне-направленное внимание.

Если у человека во время выполнения какого-либо задания всплывают в памяти воспоминания, отвлекающие его от основного занятия, — это будет непроизвольное внутренне-направленное внимание. Иногда непроизвольное, но интенсивное внутренне-направленное внимание может обусловливать невнимательность человека.

Произвольное внимание выделяет из всей массы явлений, действующих на анализаторы, только ту ее часть, которая должна занять центральное место в деятельности человека. Однако эта часть не всегда одинакова по объему. Она различна в одних и тех же обстоятельствах у разных людей и у одного и того же человека в различных условиях.

Волевая регуляция внимания

Непроизвольное внимание не связано с участием воли, а произвольное обязательно включает волевую регуляцию. Непроизвольное внимание не требует усилий для того, чтобы удерживать и в течение определенного времени сосредоточивать на чем-то внимание, а произвольное требует этого.

Наконец, произвольное внимание в отличие от непроизвольного обычно связано с борьбой мотивов или побуждений, наличием сильных противоположно направленных и конкурирующих друг с другом интересов, каждый из которых сам по себе способен привлечь и удерживать внимание. Человек же в этом случае осуществляет сознательный выбор цели и усилием воли подавляет один из интересов, направляя все свое внимание на удовлетворение другого.

Благоприятные условия работы

Вряд ли удастся сосредоточиться, если во всю мощность ревет включенный магнитофон, телевизор или рядом друзья обсуждают интересную, но постороннюю по отношению к вашей работе проблему. Однако не возможно добиться полной тишины и не стоит терроризировать окружающих, требованием замолчать. Иногда стремление избавиться от отвлекающих раздражителей становится болезненным.

Очень важно найти свой, т.е. наиболее благоприятный именно для Вас, режим, ритм и внешние условия работы. Обычно такой стиль вырабатывается сам собой, хотя иногда его приходится искать методом проб и ошибок.

Раздражители могут порой не только не мешать работе, но даже помогать концентрации внимания. Когда в центральной нервной системе существует доминирующее возбуждение, то посторонние слабые раздражители создают дополнительные субдоминантные очаги, которые как бы притягиваются к главному, отдают ему свою энергию, усиливают, укрепляют доминанту. Поэтому тихая музыка, рабочий шум, нормальные уличные шумы часто помогают сосредоточиться.

Наконец, можно различать чувственное и интеллектуальное внимание. Первое по преимуществу связано с эмоциями и избирательной работой органов чувств, а второе — с сосредоточенностью и направленностью мысли. При чувственном внимании в центре сознания находится какое-либо чувственное впечатление, а в интеллектуальном внимании объектом интереса является мысль.

Необходимо отметить такую особенность внимания, которая как бы связывает все другие психические явления, где оно проявляется, и не сводится к моментам различных видов деятельности человека. В любой сознательной деятельности постоянно переплетаются все виды внимания.

Эксклюзивный материал сайта «www.effecton.ru — психологические тесты и коррекционные программы». Заимствование текста и/или связанных материалов возможно только при наличии прямой и хорошо различимой ссылки на оригинал. Все права защищены.

Три вида внимания в скорочтении и вне его

Фрагмент из книги О.А. Андреева и Л.Н. Хромова “Учитесь быстро читать”

Внимание бывает трех видов: непроизвольное, произвольное и послепроизвольное.

Непроизвольное внимание характеризуется тем, что направленность и сосредоточенность психической деятельности носят непроизвольный характер, т. е. не ставится цель быть внимательным. Непроизвольное внимание возникает само собой, когда действующие раздражители ярко отличаются от общего монотонного «серого» фона или когда предмет-раздражитель интересен и занимателен. Например, непроизвольное внимание вызывают громкий сигнал сирены на улице, красочная реклама, интересный рассказ или остросюжетная книга. Другой пример: за бортом корабля в открытом море появляется стая резвящихся дельфинов. Моряк, стоящий на вахте, в подробностях может пересказать траекторию прыжков дельфинов из воды, хотя наблюдение за ними и не входило в его обязанности. Его внимание непроизвольно фиксировало необычные факты.

Произвольное внимание мотивировано и направляется на объект под влиянием принятых решений и поставленных целей. Оно – результат нашего намерения, целевого усилия воли. Произвольное внимание качественно отличается от непроизвольного, что не мешает ему, однако, быть тесно связанным с нашими чувствами, интересами и прежним опытом. Но если интересы при непроизвольном внимании являются интуитивно-непосредственными, то при произвольном они носят в основном характер опосредованный. Это интерес цели, интерес последующего затем результата деятельности. Сама деятельность может не занимать нас, но так как се выполнение необходимо для решения поставленной задачи, она зачастую становится и увлекательной.

Послепроизвольное внимание также носит целенаправленный характер, но не требует для реализации постоянных волевых усилий. Например, иногда при чтении с трудом удастся удержать внимание на содержании: оно трудно, скучно и даже не особенно для нас важно. Но вот в какой-то момент, незаметно для себя, мы перестаем делать над собой усилие, читаем без напряжения, и предмет чтения увлекает нас. Внимание из произвольного стало послепроизвольным. Из сказанного следует, что обычный процесс чтения сопровождается постоянными колебаниями внимания, которые в значительной степени и определяют темп и качество чтения. При чтении текста непроизвольное внимание зависит главным образом от автора, его мастерства, а произвольное – от самого читателя.

Таким образом, внимание предопределяет психологическую активность читателя – его настроенность и готовность. Вместе с этим оно сильно влияет и на понимание текста, и на точность и глубину усвоения содержания. При чтении очень важно не только направлять внимание, но и поддерживать его длительное время. Высокая степень сосредоточенности внимания называется его концентрацией. От концентрации внимания зависит и успех быстрого чтения. Ей способствуют относительная тишина и отсутствие отвлекающих факторов. Продуктивность внимания определяется общим состоянием человека, его эмоциональной настроенностью: если он утомлен или чем-то расстроен, ему трудно добиться хорошей концентрации внимания. Поэтому рекомендуется читать на свежую голову и под хорошее настроение, а если это невозможно, то предварительно немного отдохнув. Нужно уметь чередовать занятия: чтение, отдых, письмо и т. д. Наконец, внимание зависит и от содержания читаемой книги, статьи, учебного текста. Если они непонятны читателю, внимание падает.

Нежелательно и непроизвольное отвлечение внимания от чрезмерно легкого текста. Необходимо помнить, что любой текст как объект восприятия характеризуется двумя сторонами: содержанием и формой. Каждая из этих сторон может быть объектом внимания.

Исследования, проведенные психологами, показали, что внимание надо рассматривать как отдельную форму психической деятельности. Отсюда следует, что сосредоточению, как и всякому другому действию, надо специально учить.

Особое место при чтении принадлежит так называемому зрительному вниманию. В его основе лежит феномен пульсирующего оперативного поля зрения, совпадающего в основном с зоной ясного видения. Характерная особенность оперативного поля зрения – чрезвычайная подвижность его границ. Чаще всего оно принимает размеры и конфигурацию объекта, воспринимаемого в данный момент. Можно представить себе оперативное поле зрения в виде ситуации, когда луч прожектора как бы шарит по странице текста. Такой луч не только перемещается по странице одновременно с движением глаз, но и изменяет размеры светового пятна, освещающего текст.

Умение расширять размеры светового пятна восприятия текста, пожалуй, является важнейшей характеристикой зрительного внимания человека, умеющего быстро читать. А различная ясность или различная степень осознания того содержания, на которое в данный момент направлен взор, выражается интенсивностью зрительного внимания. Если продолжить аналогию с прожектором, то это свойство аналогично степени яркости пятна прожектора. Во время чтения такое пятно не только перемещается по странице текста, меняя свои размеры, очертания, но и изменяется по яркости, то усиливаясь, то ослабевая, иногда потухая вовсе. Тогда наступает состояние психической слепоты, или невидящего взора, при котором внимание как бы гаснет.

Отсюда следует, что при чтении нужно уметь произвольно управлять вниманием с помощью специальных приемов и волевых усилий. Внимание – своего рода катализатор процесса чтения. Эффективность чтения во многом зависит от того, насколько читающий способен управлять своим вниманием. Оно определяет темп чтения: как очень высокий, так и замедленный темп чтения утомляет, способствует снижению внимания.

Чтение в условиях непроизвольного внимания наиболее эффективно. При освоении метода быстрого чтения необходимо в первую очередь научиться управлять произвольным вниманием, а затем формировать послепроизвольное из устойчивого произвольного.

• ОСНОВНЫЕ ПРИЧИНЫ НЕВНИМАТЕЛЬНОСТИ.
Многие часто жалуются на рассеянность: «Не обратил внимания», «Отключился и не слышал». Большинство людей относятся к своей невнимательности и рассеянности достаточно снисходительно, не придавая этому серьезного значения.

Но в работе вам бывает известна высокая «цена» такой рассеянности. «Пробежал глазами» – и вот вынужден второй раз перечитывать домашнее задание, снова затрачивать время. А если пропустил важное место в учебнике или опоздал на занятия, пропустил объяснение учителем сложной теоремы, например, то это зачастую значительно усложняет жизнь. Рассеянность можно разделить на подлинную и мнимую.

В их основе лежит неравномерность развития отдельных свойств внимания. Дело в том, что различные свойства внимания в значительной степени независимы друг от друга. Внимание, хорошее в одном отношении, может иметь целый ряд недостатков в другом. Подлинную рассеянность характеризует большая переключаемость и низкая устойчивость внимания.

Мнимую рассеянность иногда называют «профессорской». Внешне она может быть похожа на первый вид: человек не сразу отвечает на поставленный вопрос, он его пропускает «мимо ушей», не обращает внимания на людей, на то, что происходит вокруг. Однако внутренние механизмы ее совершенно иные, чем в первом случае. Если подлинная рассеянность – это результат сильной переключаемости и слабой сосредоточенности, то мнимая рассеянность, напротив, связана с чрезмерной сосредоточенностью на своих мыслях, чувствах, переживаниях в сочетании с низкой переключаемостью на другие предметы, мысли, чувства.

Наличие двух противоположных видов рассеянности доказывает, что за внешне похожими проявлениями в поведении человека могут скрываться совершенно различные психологические факторы.

Иногда бывает трудно определить, за счет какого именно свойства внимания достигаются успехи в учебе. Когда о вашем товарище говорят как о внимательном человеке, то имеют в виду не отдельные свойства, а целостную характеристику его личности.

Узнать больше том как развить свои когнитивные навыки и повысить умственные способности вы сможете из материалов, размещенных в разделе “Охотники за поведением”.

Поделиться:

Общая психопатология | Обучение | РОП

В норме внимание помогает индивиду воспринимать наиболее важные для него стимулы, игнорируя неважные, кроме того, внимание дает индивиду способность произвольно направлять и удерживать фокус своего внимания на интересующих его объектах, что позволяет продуктивно решать стоящие перед ним задачи.

Нарушения внимания могут быть достаточно разнообразными. Выделяют нарушения внимания, связанные с изменением состояния бодрствования (в этих случаях может быть нарушено, как произвольное, так и непроизвольное внимание), и нарушения характеристик произвольного внимания (его селективности, устойчивости, переключаемости, объема и пр.).

Невнимание (апрозексия) — этот термин часто применятся сразу по отношению ко всей группе нарушений внимания, однако при более дифференцированном подходе его правильно использовать лишь в случаях общего угнетения процессов внимания, т.е. при отсутствии или затруднении фокусировки внимания как на важных, так и на неважных стимулах; в связи с этим восприятие всех стимулов нарушено, они игнорируются. В основе лежит снижение тонуса нервной системы, уровня бодрствования и готовности действовать. В таких состояниях человек выглядит вялым, недостаточно реагирующим на происходящее вокруг, его внимание трудно или невозможно чем-либо привлечь. Невнимание в той или иной степени выраженности наблюдается при угнетении сознания, интоксикациях седативными веществами, выраженном утомлении, апатии, грубых нарушениях интеллекта, органических поражениях головного мозга определенных локализаций. Например, при оглушении пациент воспринимает лишь малую часть окружающих его стимулов, он вял, аспонтанен, врачу приходится многократно повторять свой вопрос, чтобы пациент мог сфокусировать свое внимание на нем и на попытках на него ответить. Врач из-за чрезмерного утомления и сонливости, например во время ночного дежурства, может упустить признаки болезни у своего пациента, в том числе как важные, так и неважные, допустить ошибку в своих действиях. Водитель в состоянии алкогольного опьянения или под действием седативных препаратов из-за невнимательности может «просмотреть» изменение ситуации на дороге.

Сверхотвлекаемость (гиперметаморфоз, сверхбодрствование) — фокусировка внимания сразу на всех действующих на человека стимулах, как на важных, так и на неважных. В основе — состояние, противоположное невниманию, — повышенная активация нервной системы и «чрезмерный» уровень бодрствования. В результате внимание становится крайне неустойчивым, сверхизменчивым, человек постоянно отвлекается на каждый новый стимул. В выраженных случаях нарушаются последовательность, цельность мыслительной деятельности, вплоть до развития состояния растерянности, недоумения. Наблюдается при маниакальных состояниях, интоксикациях стимуляторами и психодислептиками, иногда при галлюцинаторно-бредовых состояниях, органических поражениях головного мозга определенных локализаций.

Неустойчивость внимания (патологическая отвлекаемость) — неспособность человека удерживать фокус произвольного внимания на нужном ему объекте, в связи с чем страдает продуктивность его деятельности. При слабости произвольного внимания ведущую роль начинает занимать внимание непроизвольное, из-за этого человек постоянно отвлекается на посторонние стимулы, случайно попадающие в поле его внимания, случайные мысли («витает в облаках», «считает ворон»). Выраженность расстройства может в значительной степени варьировать.

Синдром дефицита внимания с гиперактивностью (СДВГ), основу которого составляет неустойчивость произвольного внимания, может проявляться целым спектром относительно негрубых нарушений внимания, отражающихся преимущественно на успеваемости в школе и работоспособности. Необходимо учитывать, что способность к удержанию фокуса произвольного внимания постепенно формируется у ребенка по мере его развития, поэтому для оценки этого нарушения у детей нужно принимать во внимание возрастные нормы.

При некоторых случаях органических поражений головного мозга (особенно дорсальной поверхности лобных долей) неустойчивость внимания может достигать такой степени, что она полностью дезорганизует деятельность взрослого человека.

Больной К. 35 лет несколько лет назад перенес тяжелую травму головного мозга во время погрузочных работ в порту, последние годы находится в психиатрической больнице. В отделении, если кто-то из медсестер громко вызывает любого из пациентов, К. тут же откликается, бросает свои дела и бежит к этой медсестре через весь коридор. Таким же образом встречает каждого, кто входит в отделение, начинает бойко и громко с ним разговаривать, но потом также быстро отходит, обратив внимание на что-то новое. Полноценно побеседовать с лечащим врачом он не в состоянии — ответив на один-два вопроса, он переключается на случайные темы, сам начинает задавать вопросы, а если рядом что-то происходит, теряет всякое внимание к беседе с врачом и, не завершив беседу, уходит в интересующем его направлении, например, посмотреть, как стригут других больных или что принесла процедурная медсестра из аптеки.

Истощаемость внимания — неспособность человека длительное время удерживать фокус произвольного внимания; первоначально внимание направлено на нужный индивиду объект, но по мере утомления оно все более истощается, а следовательно, непроизвольное внимание выходит на первый план. Является достаточно характерным признаком утомления и астении. Например, студент, утомленный недосыпанием на ночных дежурствах, садится заниматься: какое-то время он сосредоточенно читает учебник, но через несколько страниц замечает, что думает о чем-то постороннем, пытается вспомнить, что он только что читал, но не может. В специальных психологических тестах истощаемость внимания проявляется увеличением количества ошибок в монотонном задании по ходу его выполнения. Истощаемость внимания также наблюдается при синдроме дефицита внимания с гиперактивностью, органическом поражении головного мозга.

Тугоподвижность внимания (вязкость, патологическая прикованность) — трудности с переключением внимания с одной темы или объекта на другую тему или объект. Рассматривается как проявление замедленного мышления, или брадифрении. Отмечается при органических заболеваниях головного мозга, в том числе эпилепсии, сосудистых заболеваниях и пр.

Про чрезмерную прикованность внимания к той или иной теме, от которой человек не может отвлечься и которая заслоняет для него все происходящее вокруг, говорят также, когда описывают патологические суждения (бред, сверхценные идеи и навязчивые явления).

Сужение объема внимания — возможность одновременно удержать в фокусе внимания лишь небольшое количество объектов. Достаточно яркий пример — аффекты (аффективно суженное сознание) — остро развивающееся состояние, когда на фоне сильного эмоционального волнения, происходит резкое ограничение объема воспринимаемой информации (в том числе так называемое туннельное зрение) с сохранением фокуса внимания только на эмоционально значимых объектах; другие объекты, окружающие человека (в том числе те, которые помогли бы найти выход из сложившейся ситуации или дали бы возможность альтернативному пути действий), не воспринимаются (подробнее см. аффекты, аффективно-шоковые реакции).

В случаях, когда у человека всегда отмечается некоторый недостаток объема и распределения внимания, проявляющиеся в виде невозможности удерживать в фокусе внимания необходимое для выполнения той или иной деятельности количество информации, эти нарушения в настоящее время часто трактуют, как недостаточность объема рабочей памяти. Существует целый ряд подходов к тренингу рабочей памяти, для повышения когнитивной эффективности, включая компьютеризированные варианты, доступные для мобильных устройств (н., n-back test).


Послепроизвольное внимание — что за непонятный зверь?

 

Сейчас, отреагировав на эту надпись Вы задействовали непроизвольное внимание. А реагирует оно, как правило, на три вещи: силу и неожиданность раздражителя; новизну, необычность, контрастность раздражителя; и подвижность объекта. Неожиданно, в тишине квартиры мы услышали громкий скрип паркета: внимание! Может быть, это вор? Или кто-то из домочадцев идет опустошать холодильник? Или некто крадется причинить нам вред? Но давайте по порядку.

Внимание

Внимание – это особое свойство человеческой психики. Это избирательная направленность восприятия на тот или иной объект, это система отбора информации, позволяющая нам воспринимать только значимую для нас информацию. Эта функция внимания помогает нам реагировать лишь на то, что для нас важно или представляет интерес.

В организации внимания по степени активности человека различают три вида внимания: непроизвольное, произвольное и послепроизвольное. Если направленность психической деятельности на определенные объекты не вызывается постановкой сознательной цели и не связана с волевыми усилиями, то такое внимание называют непроизвольным. Непроизвольное внимание реагирует на все значимые внешние обстоятельства. Произвольное и послепроизвольное внимание устремлено к тому, что выбрали мы сами. Давайте рассмотрим первый и второй тип внимания, и более подробно остановимся на последнем виде внимания.

Непроизвольное внимание

Непроизвольное внимание – это сосредоточение сознания на объекте в силу его особенности как раздражителя. Более сильный раздражитель на фоне действующих привлекает внимание человека. Вызывает непроизвольное внимание новизна раздражителя, начало и прекращение действия раздражителя. Непроизвольное внимание вырабатывалось в процессе эволюции и заботится о нашем выживании. Яркий свет, громкий звук, сильный запах, высокая скорость движения. Все яркое и громкое мгновенно привлекает наше внимание. Непроизвольное внимание поворачивает нас к тем вещам и событиям, которые могут быть для нас важны. Однако у этого полезного механизма есть свои ограничения: в этом случае не мы управляем ситуацией, а ситуация управляет нами. Непроизвольное внимание возникает независимо от сознания и нашего желания, неожиданно и непредсказуемо от условий, под влиянием разнообразных раздражителей, действующих на тот или иной анализатор организма. Оно управляет нами, а не мы им. Вспомните, насколько сложно не реагировать на громкий звук клаксона, или слепящий свет фар, или же на резкий неприятный запах.

Что интересно, непроизвольное внимание присуще и человеку, и животным. Однако возникновение такого внимания у человека качественно отличается от внимания у животных. Человек может овладевать собственным самопроизвольным вниманием в отличие от животных, предмет самопроизвольно сосредоточение может стать предметом сознательного сосредоточения. Физиологической основой самопроизвольного внимания является безусловно-рефлекторная ориентирующая деятельность. Нейрофизиологическим механизмом такого внимания является возбуждения, которые поступают в кору из подкорковых участков больших полушарий головного мозга. Когда сила посторонних раздражителей превышает силу осознанно действующих возбуждений, возникает непроизвольное внимание.

В ситуации проверки на полиграфе при резком громком звуке, например, при хлопке в ладоши, такое внимание возникает у опрашиваемого лица. Либо при предъявлении причастному человеку стимула-улики, например, орудия убийства в виде окровавленного ножа, мы обнаружим действие именно этого внимания.

Произвольное внимание

Произвольное внимание – это сознательно регулируемое сосредоточение на объекте, направляемое требованиями деятельности, оно мотивировано и направляется на объект под влиянием принятых решений и поставленных целей. Оно же – результат целевого усилия воли, нашего осознанного намерения. Волевое усилие переживается как напряжение, мобилизация сил на решение поставленной цели. Произвольное внимание качественно отличается от непроизвольного. Умение управлять своим вниманием с рождения не дается никому: обычно человек вырабатывает его сам в процессе самовоспитания. Начиная с детского возраста, мы можем некоторое время сосредотачиваться на каком-то предмете или задаче. И не потому что нам это интересно, а потому что нужно. Характерными особенностями произвольного внимания является целеустремленность, дисциплина и организованность умственной деятельности, способность противостоять сторонним отвлекающим факторам. Примером произвольного внимания может служить чтение неинтересной книги, трудовая монотонная деятельность, длительное наблюдение за объектом, удержание мысли при написании этой статьи.

Физиологической основой произвольного внимания является условно-рефлекторная деятельность, способность тормозить ненужные действия и движения. Положительная индукция нервных процессов – одна из основных физиологических устоев произвольного внимания. Желание разобраться с разными типами внимания, а также прилагаемое усилие для понимания различных физиологических терминов, как в данном случае, также является примером вашего произвольного внимания.

Тест на внимательность в картинках

Помимо произвольного и непроизвольного внимания, может быть выделен еще один особый его вид – послепроизвольное внимание. Это понятие в психологии было введено советским психологом Н.Ф. Добрыниным вслед за Э.Титченером. Данный вид внимания Н.Ф. Дружинин называл особой, «высшей» формой личностной активности. Давайте разберемся, в чем особенность этого вида внимания.

Послепроизвольное внимание

Послепроизвольное внимание возникает вслед за произвольным. Возникает оно на основе особого личного интереса. Это не заинтересованность, стимулированная особенностями предмета, а проявление направленности личности. Этот вид внимания совмещает в себе особенности произвольного внимания и непроизвольного, так как также носит целенаправленный характер, но не требует для реализации постоянных волевых усилий. Послепроизвольное внимание характеризуется длительной высокой сосредоточенностью и устойчивостью, с ним связывают наиболее интенсивную и плодотворную умственную деятельность, высокую производительность всех видов труда. Послепроизвольное внимание имеет еще одну особенность: оно не управляется самоуказаниями и самоприказами, внешними сознательными побуждениями и усилением воли, как в случае с произвольным вниманием, оно не возникает там, где нет настоящего интереса к делу.

Основное отличие от других видов внимания состоит в том, что для личности интересными и значимыми становятся содержание и сам процесс деятельности, а не только ее результат. Преодолевая трудности во время произвольного сосредоточения, человек привыкает к ним, сама деятельность вызывает сначала некоторый интерес к ней, а потом захватывает человека, сопровождая процесс истинным удовольствием. За счет этого, а также за счет уменьшения интенсивности напряжения, послепроизвольное внимание становится продолжительнее и производительнее. Именно с этим связана высокая производительность и полная самоотдача человека, в том числе и творческая, при занятии любимым делом. Не зря говорят: “Занимайтесь любимым делом, и вам не придется работать ни дня в своей жизни”.

Рассмотрим примеры послепроизвольного внимания. Иногда при чтении учебника с трудом удается удержать внимание на содержании: оно скучно, нагружено терминами и не особо для нас важно. Но вот в какой-то момент, незаметно для себя, мы перестаем делать над собой усилие, читаем без напряжения, и предмет чтения увлекает нас. В данном случае внимание из произвольного стало послепроизвольным. Еще один пример перехода внимания из одного в другой: обучение новому виду деятельности, например, профайлингу, когда необходимо усилием воли удерживать внимание на новых знаниях и терминах, осваивать большой объем информации, выполнять задания. Но как только ты начинаешь практиковать полученные знания, учишься разбираться в людях «в полях», определять их психотип по критериям, находить среди знакомых представителей, например, истероидов или эпилептоидов, ты искренне начинаешь получать удовольствие от деятельности, увлекаясь профайлингом все больше и больше. И это увлечение не проходит с течением времени. К такому типу внимания в ходе своей работы стремятся все те, кто обучает людей различного возраста. Надеюсь, чтение этой статьи также стало для вас примером послепроизвольного внимания)

 

Мартьянова Людмила

Total

6

Поделиться

что это такое? Примеры и определение, постпроизвольное внимание в психологии по Леонтьеву

Внимание необходимо в повседневной жизни на каждом шагу. В разных ситуациях оно активизируется и направляется на тот или иной объект. Это свойство позволяет отбирать нужную и важную для нас информацию. Но реагируя на разные вещи и ситуации, мы не задумываемся о том, что существует несколько видов внимания. Послепроизвольное наряду с произвольным и непроизвольным представляет немалый интерес.

Что это такое?

У каждого вида внимания своя степень активности. Поэтому и различают три вида.

Определение в психологии говорит о том, что послепроизвольное внимание – это такое состояние человека, когда он полностью сосредоточен на определённом предмете. Но это даётся ему очень легко, без усилий, а результатом являются полученные знания, которые прочно сохраняются в памяти.

Иными словами, это то состояние, когда присутствует устойчивая мотивация к чему-либо. Поэтому все силы направлены на достижение цели, всё даётся легко, не ощущается даже усталость при длительной умственной работе.

Это как раз тот вид концентрации, которая необходима школьнику или студенту для блестящего изучения предметов. Родители и учителя стремятся к тому, чтобы у детей присутствовало именно такое внимание, которое позволит хорошо усваивать материал и хорошо учиться. Но и для взрослых оно вполне полезно, поскольку позволяет усвоить большое количество нужной информации.

По Леонтьеву (психолог, много времени уделявший изучению всех трёх типов) послепроизвольное внимание – это естественный процесс, который базируется на произвольном внимании. В основе обоих типов лежит интерес к предмету. Но интерес в первом и втором случае немного разный.

В послепроизвольном подключается интерес человека к результату, который получится в итоге производимой деятельности.

Сравнение с другими видами внимания

Если сравнивать постпроизвольное внимание (оно же послепроизвольное) с двумя другими, то можно обнаружить, что данный вид отличается от непроизвольного, но схож с произвольным.

Непроизвольное внимание возникает без всяких стараний, оно не связано с какими-то определёнными действиями и усилиями, а возникает как реакция на всё, что нас окружает. Иными словами, мы обращаем внимание на какие-то предметы и явления.

А вот произвольное и послепроизвольное – это уже те виды, которые «включаются» по воле человека, исходя из его выбора.

Рассмотрим подробнее все три разновидности, чтобы понять, в чём их отличия.

  • Непроизвольное внимание не зависит от наших желаний. Это может быть, например, грохот грома, яркий свет фар автомобиля, внезапно появившийся запах гари или свежеиспечённого хлеба. Непроизвольное внимание захватывает неожиданно появляющиеся события, которые могут быть важными для нас. Во всех этих случаях ситуация, возникающая во внешнем мире, нам неподвластна. А, наоборот, мы зависимы от неё. Непроизвольное внимание присуще и животным, их реакция на внешние раздражители и есть его проявление. Особенность человеческого внимания в том, что люди могут его контролировать, в отличие от животных.
  • Произвольное внимание в корне отличается от предыдущего вида. Мы ставим перед собой цель, собираемся решить определённую задачу и направляем на это произвольное внимание, полностью сосредотачиваясь на объекте. Этот вид не присущ нам изначально, его нужно вырабатывать самостоятельно. Этому начинают родители учить ребёнка с детства, а затем учителя. В качестве примера можно привести ситуацию, когда нужно произвести какие-то действия, не вызывающие особого энтузиазма. Произведение этих действий обусловлено необходимостью.
  • Послепроизвольное тоже происходит благодаря усилиям человека, и в этом оно схоже с произвольным. Но отличается тем, что послепроизвольное внимание – это не просто концентрация человека на какой-либо деятельности, потому что это нужно, это уже интерес к ней. Его интересует и конечный результат, но и сам процесс начинает увлекать и доставлять удовольствие. Послепроизвольное внимание длится гораздо дольше других видов и даёт наилучший результат. Это можно сравнить с тем, когда человек посвятил свою жизнь любимому делу и занимается им с удовольствием.

Таким образом, все три вида имеют свои сходства и отличия, но разграничить их между собой достаточно просто.

Также становится очевидным, что произвольное внимание легко может перейти в послепроизвольное.

Обзор примеров

Понять, как на деле проявляется послепроизвольное внимание, а также как оно вытекает из произвольного, помогут наглядные примеры.

  • Если, например, к художнику пришло вдохновение, он готовит холст, мольберт, кисти, краски и приступает к работе в мастерской или выезжает на пленэр, где планирует сделать наброски для будущих картин – это как раз послепроизвольное внимание. В этом случае человек занимается деятельностью, которая увлекает его и доставляет удовольствие.
  • Другой вариант. Женщина собирается удивить семью, приготовить какое-то вкусное блюдо. Делает она это с душой, ей нравится сам процесс, и она заинтересована в результате своего труда. Женщина изучает рецепт, готовит ингредиенты, создаёт вкусное блюдо. Это занятие ей в радость. Она не заставляет себя на этом сосредоточиться, всё происходит само собой.
  • Ещё один вариант, когда сразу включается послепроизвольное внимание – человек в предвкушении встречи с друзьями, с которыми долгое время не встречался. Он с самого начала заинтересован в этой встрече, настроен на положительные эмоции, и в процессе общения он чувствует сплошной позитив.

Очень часто послепроизвольное внимание включается вслед за произвольным. Рассмотрим, как это происходит на примерах.

  • Ребёнок садится читать какую-то книгу, потому что это нужно делать, и он это понимает. Сначала он включает произвольное внимание, старается вдумчиво читать. Но в какое-то время он увлекается, ему становится интересно. И он уже читает не потому, что так надо, а потому, что хочет узнать дальнейшее развитие событий и чем всё закончится. Это уже включилось послепроизвольное внимание.
  • Или, допустим, нужно освоить для себя что-то новое. Например, английский язык. Сначала не возникает особого энтузиазма. Нужно учить слова, глаголы, времена, что кажется очень нудным. Но произвольное внимание помогает справляться. Затем что-то начинает получаться, просыпается интерес, хочется добиться большего – появилось послепроизвольное внимание.

Если задаться целью, то можно понаблюдать и за собой, и за окружающими, и наглядно увидеть, как работает послепроизвольное внимание, и как другие типы взаимодействуют с ним.

О послепроизвольном внимании смотрите в видео.

Виды и свойства внимания

Внимание — это направленность и сосредоточенность сознания на каком-либо реальном или идеальном объекте, предполагающие повышение уровня сенсорной, интеллектуальной или двигательной активности индивида.


Внимание имеет свою органическую основу, которая представляет собой структуры мозга, обеспечивающие функционирование внимания и отвечающие за внешние проявления его различных характеристик. Среди нескольких миллиардов нервных клеток, из которых состоит головной мозг человека, есть такие, которые особенно тесно связаны с работой внимания. Их называют нейронами — детекторами новизны. Такие нервные клетки отличаются от других тем, что включаются в активную работу лишь тогда, когда человек в своих ощущениях и восприятии сталкивается с некоторыми новыми для него предметами и явлениями, которые приковывают к себе его внимание.

Раздражители, ставшие привычными, обычно не вызывают реакции клеток — детекторов новизны. Такие клетки, по-видимому, отвечают за непроизвольное внимание человека.

Общее состояние внимания, в частности, такая его характеристика, как устойчивость, связана, по-видимому, с работой ретикулярной формации. Она представляет собой тончайшую сеть нервных волокон, которая располагается в глубине центральной нервной системы между головным и спинным мозгом, охватывая нижние отделы первого и верхние отделы второго. Через ретикулярную формацию проходят нервные пути, ведущие от периферических органов чувств к головному мозгу и обратно. Ретикулярная формация также регулирует тонус коры головного мозга и чувствительность рецепторов, изменяя динамические характеристики внимания: его концентрацию, устойчивость и т. п.

Функции и виды внимания

Внимание в жизни и деятельности человека выполняет много различных функций. Оно активизирует нужные и тормозит ненужные в данный момент психологические и физиологические процессы, способствует организованному и целенаправленному отбору поступающей в организм информации в соответствии с его актуальными потребностями, обеспечивает избирательную и длительную сосредоточенность психической активности на одном и том же объекте или виде деятельности.

Рассмотрим основные виды внимания. Таковыми является природное и социально обусловленное внимание, непроизвольное, произвольное и послепроизвольное внимание, чувственное и интеллектуальное внимание.

По активности человека в организации внимания различают три вида внимания: непроизвольное, произвольное и послепроизвольное.

Непроизвольное внимание — это сосредоточение сознания на объекте в силу его особенности как раздражителя.
Произвольное внимание — это сознательно регулируемое сосредоточение на объекте, направляемое требованиями деятельности. При произвольном внимании сосредоточение происходит не только на том, что эмоционально приятно, а в большей мере на том, что должно делать. Примерно через 20 минут человек утомляется, используя этот вид внимания.

Непроизвольное внимание не связано с участием воли, а произвольное обязательно включает волевую регуляцию. Наконец, произвольное внимание в отличие от непроизвольного обычно связано с борьбой мотивов или побуждений, наличием сильных, противоположно направленных и конкурирующих друг с другом интересов, каждый из которых сам по себе способен привлечь и удерживать внимание.

Человек же в этом случае осуществляет сознательный выбор цели и усилием воли подавляет один из интересов, направляя все свое внимание на удовлетворение другого. Но возможен и такой случай, когда произвольное внимание сохраняется, а усилий воли для его сохранения уже не требуется. Это бывает, если человек увлечен работой. Такое внимание называется послепроизвольным.

По своим психологическим характеристикам послепроизвольное внимание имеет черты, сближающие его с непроизвольным вниманием, но между ними есть и существенное отличие. Послепроизвольное внимание возникает на основе интереса, но это не заинтересованность, стимулированная особенностями предмета, а проявление направленности личности. При послепроизвольном внимании сама деятельность переживается как потребность, а ее результат личностно значим. Послепроизвольное внимание может длиться часами.

Рассмотренные три вида внимания в практической деятельности человека тесно переплетены взаимными переходами и опираются один на другой.

Природное внимание дано человеку с самого его рождения, в виде врожденной способности избирательно реагировать на те или иные внешние или внутренние стимулы, несущие в себе элементы информационной новизны. Основной механизм, обеспечивающий работу такого внимания, называется ориентировочным рефлексом. Он, как мы уже отмечали, связан с активностью ретикулярной формации и нейронов — детекторов новизны.

Социально обусловленное внимание складывается прижизненно в результате обучения и воспитания, связано с волевой регуляцией поведения, с избирательным сознательным реагированием на объекты.

Непосредственное внимание не управляется ничем, кроме того объекта, на который оно направленно и который соответствует актуальным интересам и потребностям человека.

Опосредствованное внимание регулируется с помощью специальных средств, например, жестов, слов, указательных знаков, предметов.

Чувственное внимание по преимуществу связано с эмоциями и избирательной работой органов чувств.
Интеллектуальное внимание связано с сосредоточенностью и направленностью мысли.
При чувственном внимании в центре сознания находится какое-либо чувственное впечатление, а в интеллектуальном внимании объектом интереса является мысль.

Свойства внимания

Внимание обладает определенными параметрами и особенностями, которые во многом являются характеристикой человеческих способностей и возможностей. К основным свойствам внимания обычно относят следующие.


1. Концентрированность. Это показатель степени сосредоточенности сознания на определенном объекте, интенсивности связи с ним. Концентрированность внимания означает, что образуется как бы временный центр (фокус) всей психологической активности человека.

2. Интенсивность внимания — это качество, определяющее эффективность восприятия, мышления, памяти и ясность сознания в целом. Чем больше интерес к деятельности (чем больше сознание ее значения) и чем труднее деятельность (чем она менее знакома человеку), чем больше влияние отвлекающих раздражителей, тем более интенсивным будет внимание.

3. Устойчивость. Способность длительное время поддерживать высокие уровни концентрированности и интенсивности внимания. Определяется типом нервной системы, темпераментом, мотивацией (новизна, значимость потребности, личные интересы), а также внешними условиями деятельности человека. Устойчивость внимания поддерживается не только новизной поступающих стимулов, но и их повторением. Устойчивость внимания связана с динамическими характеристиками его: колебаниями и переключаемостью. Под колебаниями внимания понимают периодические кратковременные непроизвольные изменения степени интенсивности внимания. Колебания внимания проявляются во временном изменении интенсивности ощущений. Так, прислушиваясь к очень слабому, едва слышному звуку, например, тиканью часов, человек то замечает звук, то перестает его замечать. Такие колебания внимания могут осуществляться с разными периодами, от 2-3 до 12 секунд. Наиболее длительные колебания наблюдались при предъявлении звуковых раздражителей, затем при зрительных и наиболее короткие — при осязательных.

4. Объем — показатель количества однородных стимулов, находящихся в фокусе внимания (у взрослого человека от 4 до 6 объектов, у ребенка не более 2-3). Объем внимания зависит не только от генетических факторов и от возможностей кратковременной памяти индивида. Имеют также значения характеристики воспринимаемых объектов (их однородность, взаимосвязи) и профессиональные навыки самого субъекта.

5. Переключение внимания понимается как возможность более или менее легкого и достаточно быстрого перехода от одного вида деятельности к другому. С переключением функционально связаны и два разнонаправленных процесса: включение и отключение внимания. Переключение может быть произвольным, тогда его скорость — это показатель степени волевого контроля субъекта над своим восприятием и непроизвольным, связанным с отвлечением, что является показателем либо степени неустойчивости психики, либо свидетельствует о появлении сильных неожиданных раздражителей.

Эффективность переключения зависит от особенностей выполнения предыдущей и последующей деятельности (показатели переключения значительно снижаются при переходе от легкой деятельности к трудной, а при обратном барианте они возрастают). Успех переключения связан с отношением человека к предыдущей деятельности, чем интереснее предшествующая деятельность и менее интересна последующая, тем труднее происходит переключение. Имеются значительные индивидуальные различия в переключаемости, что связано с такой особенностью нервной системы, как подвижность нервных процессов.

Многие современные профессии (ткачихи, механики, менеджеры, операторы и др.), где человек имеет дело с частыми и внезапными изменениями в объектах деятельности, предъявляют высокие требования к способности переключать внимание.

Большое значение имеет переключение внимания и в учебном процессе. Необходимость переключения внимания студентов, учащихся обусловлена особенностями самого процесса: сменой различных предметов в течение дня, последовательностью этапов изучения материала на занятиях, что предполагает смену видов и форм деятельности.

В отличие от сознательного переключения внимания, отвлечение — это непроизвольное отключение внимания от основной деятельности на посторонние объекты. Отвлечение отрицательно сказывается на выполнении работы. Отвлекающее действие посторонних раздражителей зависит от характера выполняемой работы. Очень сильно отвлекают внимание раздражители внезапные, прерывистые, неожиданные, а также связанные с эмоциями. При длительном выполнении однообразной работы действие побочных раздражителей усиливается по мере нарастания утомления. Отвлекающее воздействие посторонних раздражителей больше сказывается в мыслительной деятельности, не связанной с внешними опорами. Оно сильнее при слуховом восприятии, чем при зрительном.

Способность противостоять отвлекающим воздействиям называется помехоустойчивостью. В развитии этой способности у людей наблюдаются значительные индивидуальные различия, обусловленные как различиями нервной системы, а именно — ее силой, так и специальной тренировкой, направленной на повышение помехоустойчивости.

6. Распределение, то есть способность сосредоточивать внимание на нескольких объектах одновременно. При этом формируется как бы несколько фокусов (центров) внимания, что дает возможность совершать несколько действий или следить за несколькими процессами одновременно, не теряя ни одного из них из поля внимания.

В сложных современных видах труда деятельность может складываться из нескольких различных, но одновременно протекающих процессов (действий), каждый из которых отвечает различным задачам. Например, ткачиха, работающая на станке, должна осуществлять многочисленные операции контроля и управления. Это характерно и для деятельности швей, водителей, операторов и других профессий. Во всех таких деятельностях рабочему необходимо распределять внимание, т.е. одновременно сосредоточивать его на различных процессах (объектах). Исключительную роль играет способность к распределению внимания и в деятельности преподавателя. Так, например, объясняя материал на уроке, преподаватель должен одновременно следить за своей речью и логикой изложения и наблюдать за тем, как воспринимают материал студенты.

Уровень распределения внимания зависит от ряда условий: от характера совмещаемых видов деятельности (они могут быть однородными и различными), от их сложности (и в связи с этим от степени требуемого психического напряжения), от степени знакомства и привычности их (от уровня овладения основными приемами деятельности). Чем сложнее совмещаемые виды деятельности, тем труднее распределить внимание. При совмещении умственной и моторной деятельности продуктивность умственной деятельности может снижаться в большей степени, чем моторной.

Трудно совмещать два вида умственной деятельности. Распределение внимания возможно в том случае, если каждый из выполняемых видов деятельности знаком человеку, причем один — до некоторой степени привычен, автоматизирован (или может быть автоматизирован). Чем менее автоматизирован один из совмещаемых видов деятельности, тем слабее распределение внимания. Если один из видов деятельности полностью автоматизирован и для ее успешного выполнения требуется лишь периодический контроль сознания, отмечается сложная форма внимания — сочетание переключения и распределения.

Развитие внимания

Внимание как психический процесс, выражающийся в направленности сознания на определенные объекты, часто проявляясь, постепенно превращается в устойчивое свойство личности — внимательность. При этом круг объектов может ограничиваться тем или иным видом деятельности (и тогда говорят о внимательности личности в данном виде деятельности, чаще всего это деятельность профессиональная), может распространяться на все виды деятельности (в этом случае говорят о внимательности как общем свойстве личности). Люди различаются степенью развития этого свойства, крайний случай часто называют невнимательностью. Инженеру практически важно знать не только, каков уровень сформированности внимательности у рабочих, но и причины, обусловливающие его невнимательность, поскольку внимание связано с познавательными процессами и эмоционально-волевой сферой личности.

В зависимости от форм невнимательности можно говорить о трех ее типах. Первый тип — рассеянность — возникает при отвлекаемости и очень малой интенсивности внимания, чрезмерно легко и непроизвольно переключающееся с объекта на объект, но ни на одном не задерживаясь. Этот тип невнимательности образно называют «порхающим» вниманием. Подобная невнимательность у человека — результат отсутствия навыков к сосредоточенной работе. Другой тип невнимательности определяется высокой интенсивностью и трудной переключаемостью внимания. Такая невнимательность может возникнуть вследствие того, что внимание человека сосредоточено на каких-то событиях или явлениях, ранее происходящих или встречающихся ему, которые он эмоционально воспринял. Третий вид невнимательности — результат переутомления, этот тип невнимательности обусловливается постоянным или временным снижением силы и подвижности нервных процессов. Он характеризуется весьма слабой концентрацией внимания и еще более слабой его переключаемостью.

Формирование внимательности заключается в управлении вниманием человека в процессе его трудовой и учебной деятельности. При этом необходимо создавать условия, которые способствовали бы формированию его внимания: приучать работать в разнообразных условиях, не поддаваясь влиянию отвлекающих факторов; упражнять произвольное внимание; добиваться осознания общественной значимости осваимого вида труда и чувства ответственности за выполняемую работу; связывать внимание с требованиями дисциплины производственного труда и т. п.

Объем и распределение внимания следует формировать как определенный трудовой навык одновременного выполнения нескольких действий в условиях нарастающего темпа работы.

Развитие устойчивости внимания нужно обеспечивать формированием волевых качеств личности. Для развития переключения внимания необходимо подбирать соответствующие упражнения с предварительным объяснением «маршрутов переключения». Обязательное условие при формировании у человека внимательности — ни при каких обстоятельствах не позволять ему любую работу делать небрежно.

Краткий обзор механизма внимания | синхронизировано | SyncedReview

Внимание — это просто вектор, часто выходы плотного слоя с использованием функции softmax.

Перед механизмом «Внимание», перевод основан на чтении всего предложения и сжатии всей информации в вектор фиксированной длины, как вы можете себе представить, предложение из сотен слов, представленных несколькими словами, обязательно приведет к потере информации, неадекватному переводу и т. Д.

Однако внимание частично решает эту проблему.Это позволяет машинному переводчику просматривать всю информацию, содержащуюся в исходном предложении, а затем генерировать правильное слово в соответствии с текущим словом, с которым оно работает, и контекстом. Он может даже позволить переводчику увеличивать или уменьшать масштаб (фокусироваться на локальных или глобальных функциях).

Внимание не таинственное или сложное. Это просто интерфейс, составленный с помощью параметров и тонкой математики. Вы можете подключить его к любому месту, где сочтете подходящим, и потенциально результат может быть улучшен.

Ядром вероятностной языковой модели является присвоение вероятности предложению с помощью предположения Маркова.Из-за природы предложений, которые состоят из разного количества слов, RNN естественным образом вводится для моделирования условной вероятности среди слов.

Vanilla RNN (классический) часто оказывается в ловушке при моделировании:

  1. Структурная дилемма: в реальном мире длина выходов и входов может быть совершенно разной, в то время как Vanilla RNN может справиться только с проблемой фиксированной длины, что трудно решить. выравнивание. Рассмотрим примеры перевода на EN-FR: «он не любит яблоки» → «Il n’aime pas les pommes».
  2. Математический характер: он страдает от исчезновения / взрыва градиента, что означает, что его трудно тренировать, когда предложения достаточно длинные (возможно, не более 4 слов).

Трансляция часто требует произвольной длины ввода и длины вывода, чтобы справиться с указанными выше недостатками, принята модель кодировщика-декодера и базовая ячейка RNN заменена на ячейку GRU или LSTM, активация гиперболического тангенса заменена на ReLU. Здесь мы используем ячейку ГРУ.

Встраиваемый слой преобразует дискретные слова в плотные векторы для повышения эффективности вычислений.Затем встроенные векторы слов последовательно подаются в кодировщик, также известный как ячейки ГРУ. Что произошло при кодировании? Информация течет слева направо, и каждый вектор слова изучается не только в соответствии с текущим вводом, но и со всеми предыдущими словами. Когда предложение полностью прочитано, кодировщик генерирует вывод и скрытое состояние на временном шаге 4 для дальнейшей обработки. Для части кодирования декодер (а также ГРУ) захватывает скрытое состояние из кодировщика, обученного принудительным действием учителя (режим, в котором вывод предыдущей ячейки является текущим вводом), затем последовательно генерирует слова перевода.

Это кажется удивительным, поскольку эту модель можно применить к последовательности N-to-M, но все же остается нерешенным один главный недостаток: действительно ли одного скрытого состояния достаточно?

Да, внимание.

Подобно базовой архитектуре кодер-декодер, этот причудливый механизм вставляет вектор контекста в промежуток между кодером и декодером. Согласно схеме выше, синий представляет кодер, а красный — декодер; и мы могли видеть, что вектор контекста принимает выходные данные всех ячеек в качестве входных данных для вычисления распределения вероятностей слов исходного языка для каждого отдельного слова, которое декодер хочет сгенерировать.Используя этот механизм, декодер может захватывать некоторую глобальную информацию, а не делать выводы только на основе одного скрытого состояния.

А построить вектор контекста довольно просто. Для фиксированного целевого слова сначала мы перебираем все состояния кодировщиков, чтобы сравнить целевое и исходное состояния, чтобы сгенерировать оценки для каждого состояния в кодировщиках. Затем мы могли бы использовать softmax для нормализации всех оценок, что генерирует распределение вероятностей, обусловленное целевыми состояниями. Наконец, введены веса, чтобы упростить обучение вектора контекста.Это оно. Математика показана ниже:

Чтобы понять кажущуюся сложной математику, нам нужно помнить о трех ключевых моментах:

  1. Во время декодирования векторы контекста вычисляются для каждого выходного слова. Таким образом, у нас будет двумерная матрица, размер которой равен количеству целевых слов, умноженному на количество исходных слов. Уравнение (1) демонстрирует, как вычислить одно значение для одного целевого слова и набора исходного слова.
  2. Как только вектор контекста вычислен, вектор внимания может быть вычислен с помощью вектора контекста, целевого слова и функции внимания f .
  3. Нам нужен механизм внимания, чтобы его можно было тренировать. Согласно уравнению (4), оба стиля предлагают тренируемые веса (W у Луонга, W1 и W2 у Bahdanau). Таким образом, разные стили могут привести к разной производительности.

Мы надеемся, что вы понимаете причину, по которой внимание является сегодня одной из самых горячих тем, и, что наиболее важно, основная математика, лежащая в основе внимания. Приветствуется реализация вашего собственного уровня внимания. В передовых исследованиях существует множество вариантов, и они в основном различаются выбором функции оценки и функции внимания или мягкого внимания и жесткого внимания (будь то дифференцируемое).Но основные концепции все те же. Если интересно, вы можете проверить документы ниже.

[1] Vinyals, Oriol, et al. Покажи и расскажи: генератор титров нейронных изображений. arXiv: 1411.4555 (2014).
[2] Богданау, Дмитрий, Кёнхён Чо и Йошуа Бенжио. Нейронный машинный перевод путем совместного обучения согласованию и переводу. arXiv: 1409.0473 (2014).
[3] Чо, Кёнхён, Аарон Курвиль и Йошуа Бенжио. Описание мультимедийного контента с использованием основанных на внимании сетей кодировщика-декодера.arXiv: 1507.01053 (2015)
[4] Xu, Kelvin, et al. Покажи, посети и расскажи: создание подписи к нейронному изображению с визуальным вниманием. arXiv: 1502.03044 (2015).
[5] Сухэ-Батор, Сайнбаяр, Джейсон Уэстон и Роб Фергус. Сквозные сети памяти. Достижения в области систем обработки нейронной информации . (2015).
[6] Жулен, Арман и Томаш Миколов. Вывод алгоритмических паттернов с помощью рекуррентных сетей, дополненных стеком. arXiv: 1503.01007 (2015).
[7] Герман, Карл Мориц и др.Обучающие машины читать и понимать. Достижения в области систем обработки нейронной информации . (2015).
[8] Раффель, Колин и Дэниел П. У. Эллис. Сети с прямой связью с вниманием могут решить некоторые проблемы с долговременной памятью. arXiv: 1512.08756 (2015).
[9] Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., & Gomez, A. et al. . Внимание . arXiv: 1706.03762 (2017).

Как работает внимание в рекуррентных нейронных сетях кодер-декодер

Последнее обновление 7 августа 2019 г.

Attention — это механизм, который был разработан для повышения производительности RNN кодировщика-декодера при машинном переводе.

В этом руководстве вы откроете для себя механизм внимания для модели кодировщик-декодер.

После прохождения этого руководства вы будете знать:

  • О модели кодировщика-декодера и механизме внимания для машинного перевода.
  • Пошаговая инструкция по реализации механизма внимания.
  • Приложения и расширения к механизму внимания.

Начните свой проект с моей новой книги «Глубокое обучение для обработки естественного языка», включая пошаговых руководств и файлов исходного кода Python для всех примеров.

Приступим.

  • Обновление декабрь / 2017 г. : исправлена ​​небольшая опечатка в шаге 4, спасибо Синтии Фриман.

Обзор руководства

Это руководство разделено на 4 части; их:

  1. Кодер-декодер Модель
  2. Внимание Модель
  3. Рабочий пример внимания
  4. Расширение внимания

Кодер-декодер Модель

Модель кодировщика-декодера для рекуррентных нейронных сетей была представлена ​​в двух статьях.

Оба разработали технику для решения проблемы последовательной природы машинного перевода, когда входные последовательности отличаются по длине от выходных последовательностей.

Илья Суцкевер и др. сделайте это в статье «Последовательность обучения с помощью нейронных сетей», используя LSTM.

Kyunghyun Cho, et al. сделайте это в статье «Изучение представлений фраз с использованием RNN Encoder – Decoder для статистического машинного перевода». Эта работа и некоторые из тех же авторов (Bahdanau, Cho и Bengio) разработали свою конкретную модель позже, чтобы разработать модель внимания. Поэтому мы кратко рассмотрим модель кодировщика-декодера, как описано в этой статье.

На высоком уровне модель состоит из двух подмоделей: кодировщика и декодера.

  • Кодер : Кодер отвечает за пошаговое выполнение временных шагов ввода и кодирование всей последовательности в вектор фиксированной длины, называемый вектором контекста.
  • Декодер : декодер отвечает за пошаговое выполнение временных шагов вывода при чтении из вектора контекста.

Модель рекуррентной нейронной сети кодировщика-декодера.
Взято из «Изучение представлений фраз с использованием RNN Encoder – Decoder для статистического машинного перевода»

мы предлагаем новую архитектуру нейронной сети, которая обучается кодировать последовательность переменной длины в векторное представление фиксированной длины и декодировать заданное векторное представление фиксированной длины обратно в последовательность переменной длины.

— Изучение представлений фраз с использованием RNN Encoder – Decoder для статистического машинного перевода, 2014.

Ключ к модели состоит в том, что вся модель, включая кодировщик и декодер, обучается от начала до конца, в отличие от обучения элементов по отдельности.

Модель описывается в общем, так что различные конкретные модели RNN могут использоваться в качестве кодировщика и декодера.

Вместо использования популярной RNN с долгосрочной кратковременной памятью (LSTM) авторы разрабатывают и используют свой собственный простой тип RNN, позже названный Gated Recurrent Unit или GRU.

Далее, в отличие от Sutskever, et al.В модели выход декодера из предыдущего временного шага подается как вход для декодирования следующего выходного временного шага. Вы можете видеть это на изображении выше, где выход y2 использует вектор контекста (C), скрытое состояние, переданное при декодировании y1, а также выход y1.

… и y (t), и h (i) также обусловлены y (t − 1) и суммой c входной последовательности.

— Изучение представлений фраз с использованием RNN Encoder – Decoder для статистического машинного перевода, 2014

Внимание Модель

Внимание представили Дмитрий Богданов и др.в их статье «Нейронный машинный перевод путем совместного обучения выравниванию и переводу», который является естественным продолжением их предыдущей работы над моделью кодировщик-декодер.

Внимание предлагается в качестве решения ограничения модели кодировщика-декодера, кодирующей входную последовательность, одним вектором фиксированной длины, из которого можно декодировать каждый выходной временной шаг. Считается, что эта проблема представляет собой большую проблему при декодировании длинных последовательностей.

Потенциальная проблема с этим подходом кодер-декодер заключается в том, что нейронная сеть должна иметь возможность сжимать всю необходимую информацию исходного предложения в вектор фиксированной длины.Это может затруднить работу нейронной сети с длинными предложениями, особенно с теми, которые длиннее, чем предложения в обучающем корпусе.

— Нейронный машинный перевод путем совместного обучения выравниванию и переводу, 2015 г.

Внимание предлагается как метод выравнивания и перевода.

Выравнивание — это проблема в машинном переводе, которая определяет, какие части входной последовательности имеют отношение к каждому слову в выходных данных, тогда как перевод — это процесс использования соответствующей информации для выбора подходящего выхода.

… мы вводим расширение модели кодировщика-декодера, которое учится согласовывать и транслировать совместно. Каждый раз, когда предложенная модель генерирует слово в переводе, она (программно) ищет набор позиций в исходном предложении, где сосредоточена наиболее релевантная информация. Затем модель предсказывает целевое слово на основе векторов контекста, связанных с этими исходными позициями и всеми ранее сгенерированными целевыми словами.

— Нейронный машинный перевод путем совместного обучения выравниванию и переводу, 2015.

Вместо кодирования входной последовательности в один фиксированный вектор контекста модель внимания разрабатывает вектор контекста, который фильтруется специально для каждого временного шага вывода.

Пример внимания
из «Нейронного машинного перевода путем совместного обучения выравниванию и переводу», 2015 г.

Как и в случае с бумагой Encoder-Decoder, этот метод применяется к проблеме машинного перевода и использует блоки GRU, а не ячейки памяти LSTM. В этом случае используется двунаправленный ввод, при котором входные последовательности предоставляются как в прямом, так и в обратном направлении, которые затем объединяются перед передачей в декодер.

Вместо того, чтобы повторять уравнения для вычисления внимания, мы рассмотрим рабочий пример.

Нужна помощь с глубоким обучением текстовых данных?

Пройдите мой бесплатный 7-дневный ускоренный курс электронной почты (с кодом).

Нажмите, чтобы зарегистрироваться, а также получите бесплатную электронную версию курса в формате PDF.

Начните БЕСПЛАТНЫЙ ускоренный курс прямо сейчас

Рабочий пример внимания

В этом разделе мы конкретизируем внимание на небольшом рабочем примере.В частности, мы проведем расчеты с не векторизованными членами.

Это даст вам достаточно подробное понимание, чтобы вы могли добавить внимание к своей собственной реализации кодировщика-декодера.

Этот рабочий пример разделен на следующие 6 разделов:

  1. Проблема
  2. Кодировка
  3. Выравнивание
  4. Вес
  5. Вектор контекста
  6. Декодировать

1. Задача

Проблема — простая задача предсказания от последовательности к последовательности.

Есть три временных шага ввода:

Требуется модель для прогнозирования 1 временного шага:

В этом примере мы проигнорируем тип RNN, который используется в кодировщике и декодере, и проигнорируем использование двунаправленного входного уровня. Эти элементы не важны для понимания расчета внимания в декодере.

2. Кодировка

В модели кодер-декодер входные данные кодируются как один вектор фиксированной длины. Это выходные данные модели кодировщика для последнего временного шага.

Модель внимания требует доступа к выходным данным кодировщика для каждого временного шага входа. В документе они называются « аннотаций » для каждого временного шага. В данном случае:

h2, h3, h4 = кодировщик (x1, x2, x3)

h2, h3, h4 = Кодировщик (x1, x2, x3)

3. Выравнивание

Декодер выводит по одному значению за раз, которое передается, возможно, большему количеству слоев перед окончательным выводом прогноза (y) для текущего временного шага вывода.

Модель согласования оценивает (e) насколько хорошо каждый закодированный вход (h) соответствует текущему выходному сигналу декодера (ов).

Для вычисления оценки требуется вывод декодера из предыдущего временного шага вывода, например с (т-1). При оценке самого первого вывода для декодера это будет 0.

Подсчет очков осуществляется с помощью функции a (). Мы можем оценить каждую аннотацию (h) для первого временного шага вывода следующим образом:

е11 = а (0, h2) е12 = а (0, h3) е13 = а (0, h4)

e11 = a (0, h2)

e12 = a (0, h3)

e13 = a (0, h4)

Мы используем два нижних индекса для этих оценок, e.грамм. e11, где первая «1» представляет временной шаг вывода, а вторая «1» представляет входной временной шаг.

Мы можем представить, что если бы у нас была проблема от последовательности к последовательности с двумя временными шагами вывода, то позже мы могли бы оценить аннотации для второго временного шага следующим образом (при условии, что мы уже вычислили наше s1):

е21 = а (s1, h2) е22 = а (s1, h3) е23 = а (s1, h4)

e21 = a (s1, h2)

e22 = a (s1, h3)

e23 = a (s1, h4)

Функция a () в статье называется моделью выравнивания и реализована как нейронная сеть с прямой связью.

Это традиционная однослойная сеть, в которой каждый вход (s (t-1) и h2, h3 и h4) взвешивается, используется передаточная функция гиперболического тангенса (tanh), а выход также взвешивается.

4. Взвешивание

Затем оценки выравнивания нормализуются с помощью функции softmax.

Нормализация оценок позволяет рассматривать их как вероятности, указывая на вероятность того, что каждый закодированный временной шаг ввода (аннотация) соответствует текущему временному шагу вывода.

Эти нормализованные оценки называются весами аннотаций.

Например, мы можем рассчитать веса аннотаций softmax (a) с учетом вычисленных оценок выравнивания (e) следующим образом:

a11 = ехр (e11) / (ехр (e11) + ехр (e12) + ехр (e13)) a12 = ехр (e12) / (ехр (e11) + ехр (e12) + ехр (e13)) a13 = ехр (e13) / (ехр (e11) + ехр (e12) + ехр (e13))

a11 = exp (e11) / (exp (e11) + exp (e12) + exp (e13))

a12 = exp (e12) / (exp (e11) + exp (e12) + exp (e13))

a13 = ехр (e13) / (ехр (e11) + ехр (e12) + ехр (e13))

Если бы у нас было два временных шага вывода, веса аннотаций для второго временного шага вывода были бы рассчитаны следующим образом:

a21 = ехр (e21) / (ехр (e21) + ехр (e22) + ехр (e23)) a22 = ехр (e22) / (ехр (e21) + ехр (e22) + ехр (e23)) а23 = ехр (е23) / (ехр (е21) + ехр (е22) + ехр (е23))

a21 = exp (e21) / (exp (e21) + exp (e22) + exp (e23))

a22 = exp (e22) / (exp (e21) + exp (e22) + exp (e23))

a23 = ехр (e23) / (ехр (e21) + ехр (e22) + ехр (e23))

5.Вектор контекста

Затем каждая аннотация (h) умножается на веса аннотации (a), чтобы создать новый обслуживаемый вектор контекста, из которого можно декодировать текущий временной шаг вывода.

Для простоты у нас есть только один временной шаг вывода, поэтому мы можем вычислить одноэлементный вектор контекста следующим образом (с скобками для удобства чтения):

c1 = (a11 * h2) + (a12 * h3) + (a13 * h4)

c1 = (a11 * h2) + (a12 * h3) + (a13 * h4)

Контекстный вектор — это взвешенная сумма аннотаций и нормализованных оценок выравнивания.

Если бы у нас было два временных шага вывода, вектор контекста состоял бы из двух элементов [c1, c2], вычисляемых следующим образом:

c1 = a11 * h2 + a12 * h3 + a13 * h4 c2 = a21 * h2 + a22 * h3 + a23 * h4

c1 = a11 * h2 + a12 * h3 + a13 * h4

c2 = a21 * h2 + a22 * h3 + a23 * h4

6. Декодировать

Затем выполняется декодирование в соответствии с моделью кодировщика-декодера, хотя в этом случае используется обслуживаемый вектор контекста для текущего временного шага.

Выход декодера (ов) упоминается в документе как скрытое состояние.

Это может быть передано в дополнительные уровни перед окончательным выходом из модели в качестве прогноза (y1) для временного шага.

Расширения вниманию

В этом разделе рассматриваются некоторые дополнительные приложения Bahdanau, et al. механизм внимания.

Жесткое и мягкое внимание

В статье 2015 года «Покажи, посети и расскажи: создание подписей к нейронным изображениям с визуальным вниманием» Кельвин Сю и др.обратил внимание на данные изображения, используя сверточные нейронные сети в качестве экстракторов признаков для данных изображения по проблеме подписи к фотографиям.

Они развивают два механизма внимания: один они называют « мягкое внимание », которое напоминает внимание, описанное выше, с взвешенным вектором контекста, и второй « жесткое внимание », где четкие решения принимаются в отношении элементов в векторе контекста. за каждое слово.

Они также предлагают двойное внимание, когда внимание сосредоточено на определенных частях изображения.

Удаление предыдущего скрытого состояния

Было несколько приложений механизма, в которых подход был упрощен, так что скрытое состояние из последнего временного шага вывода (s (t-1)) исключалось из оценки аннотаций (шаг 3. выше).

Два примера:

Это приводит к тому, что модель не получает представление о ранее декодированном выходе, которое предназначено для помощи в выравнивании.

Это отмечено в уравнениях, перечисленных в документах, и неясно, была ли миссия преднамеренным изменением модели или просто упущением в уравнениях.Ни в одной из статей не было замечено обсуждения отказа от этого термина.

Изучение предыдущего скрытого состояния

Минь-Тханг Луонг и др. в своей статье 2015 года «Эффективные подходы к нейронному машинному переводу на основе внимания» явно реструктурировали использование предыдущего скрытого состояния декодера при оценке аннотаций. Также см. Презентацию документа и соответствующий код Matlab.

Они разработали основу для сравнения различных способов оценки аннотаций. Их структура вызывает и явно исключает предыдущее скрытое состояние при оценке аннотаций.

Вместо этого они берут предыдущий вектор контекста внимания и передают его в качестве входных данных декодеру. Цель состоит в том, чтобы позволить декодеру знать о прошлых решениях о выравнивании.

… мы предлагаем подход подачи ввода, в котором векторы внимания ht объединяются с вводами на следующих временных шагах […]. Такие связи имеют двоякий эффект: (а) мы надеемся сделать модель полностью осведомленной о предыдущих вариантах выравнивания и (б) мы создаем очень глубокую сеть, охватывающую как по горизонтали, так и по вертикали

— Эффективные подходы к нейронному машинному переводу на основе внимания, 2015.

Ниже приведено изображение этого подхода, взятого из статьи. Обратите внимание на пунктирные линии, явно показывающие использование декодеров, обслуживаемых выходом скрытого состояния (ht), обеспечивающим вход для декодера на следующем временном шаге.

Подача скрытого состояния в качестве входных данных для декодера
Взято из «Эффективных подходов к нейронному машинному переводу на основе внимания», 2015 г.

Они также развивают внимание « глобальное, » и « локальное, », где локальное внимание является модификацией подхода, который изучает окно фиксированного размера, которое накладывается на вектор внимания для каждого временного шага вывода.Это рассматривается как более простой подход к « жесткому вниманию, », представленному Сюй и др.

Недостаток глобального внимания состоит в том, что оно должно уделять внимание всем словам на исходной стороне для каждого целевого слова, что является дорогостоящим и потенциально может сделать невозможным перевод более длинных последовательностей, например абзацев или документов. Чтобы устранить этот недостаток, мы предлагаем локальный механизм внимания, который выбирает фокусировку только на небольшом подмножестве исходных позиций для каждого целевого слова.

— Эффективные подходы к нейронному машинному переводу на основе внимания, 2015 г.

Анализ в документе глобального и локального внимания с различными функциями оценки аннотаций предполагает, что локальное внимание обеспечивает лучшие результаты в задаче перевода.

Дополнительная литература

Этот раздел предоставляет больше ресурсов по теме, если вы хотите углубиться.

Документы по кодировщикам-декодерам

Вниманию клиентов

Подробнее о внимании

Сводка

В этом руководстве вы открыли для себя механизм внимания для модели кодировщик-декодер.

В частности, вы выучили:

  • О модели кодировщика-декодера и механизме внимания для машинного перевода.
  • Пошаговая инструкция по реализации механизма внимания.
  • Приложения и расширения к механизму внимания.

Есть вопросы?
Задайте свои вопросы в комментариях ниже, и я постараюсь ответить.

Разрабатывайте модели глубокого обучения для текстовых данных уже сегодня!

Разработка собственных текстовых моделей за считанные минуты

…с всего несколькими строками кода Python

Узнайте, как это сделать в моей новой электронной книге:
Глубокое обучение для обработки естественного языка

Он предоставляет учебников для самостоятельного изучения по таким темам, как:
Пакет слов, встраивание слов, языковые модели, создание титров, перевод текста и многое другое …

Наконец-то привнесите глубокое обучение в свои проекты обработки естественного языка

Пропустить академики. Только результаты.

Посмотрите, что внутри

(PDF) Произвольные метрики в психологии

Диагностические пороги

для IAT к наблюдаемым действиям, которые

могут быть связаны с такими предпочтениями, подход, принятый на веб-сайтах

IAT, составляет немногим больше, чем показания счетчика.

IAT имеет сомнительное обоснование в качестве диагностического инструмента, и мы сомневаемся, что кому-либо

когда-либо должна предоставляться обратная связь, предоставляемая ежедневно

посетителям веб-сайтов IAT.

С точки зрения нашего анализа клинической значимости, основной вывод

, который мы делаем, состоит в том, что стратегия формирования групповых норм

не обязательно делает произвольную меру менее

произвольной. Стандартизация просто изменяет масштаб одной произвольной метрики

на другую.Только тогда, когда метрика (стандартизованная или

нестандартная) привязана к клинически значимому результату —

, появляется смысл различных оценок. Это

верно и для индексов величины эффекта, так как эти оценки также должны быть привязаны к

внешним событиям, чтобы они не были произвольными.

Ценность и проблемы создания показателей

Меньше произвольных

Показатель, когда он стал значимым, можно использовать для предоставления

точек зрения на такие вещи, как величина изменения

, которое происходит в базовом измерении как функция от интервенция

.Свидетельства того, что вмешательство вызывает движение —

по шкале, не имеющей произвольного значения, может показать

реальных последствий этого изменения. Это предполагает, конечно,

, что отображение метрики на внешние события

не изменилось в зависимости от вмешательства,

, но такая возможность существует всегда. Например, вмешательство

может усилить озабоченность по поводу социально желательного ответа, изменить интерпретацию якорей шкалы или повлиять на

интерпретацию задаваемых вопросов.Исследователи

, которые обращаются к этим возможностям, могут сделать более уверенные

утверждения относительно метрической значимости и клинической

значимости.

Проведение исследования

, необходимого для того, чтобы сделать метрику менее произвольной, может оказаться трудным и затратным по времени. В конце концов, проблема произвольности показателей не имеет отношения к

для многих исследовательских целей, поэтому не все исследователи должны заниматься этой проблемой

. Если кто-то просто хочет проверить, образуют ли переменные

сами по себе способами, предсказанными теорией, тогда обычно не будет необходимости проводить исследования, чтобы уменьшить произвольность

метрики.Однако существуют

ситуаций, в которых исследователям необходимо решить проблему, если

они собираются выполнить свои исследовательские цели. Связывание показателей

со значимыми событиями в реальном времени дает эффективные средства

, чтобы сделать показатели менее произвольными, но при этом всегда будут задействованы некоторые догадки. Никакая новая методология

не собирается выставлять психологические конструкции невооруженным глазом. Наилучшие

оценок того, где люди находятся в психологическом измерении —

оценок всегда таковы, оценки.Тем не менее, знание

этого ограничения представляет ценность для психолога. Исследователь

, который оценивает разрыв между психологической метрикой

и психологической реальностью, знает, что нужно смотреть дальше баллов

человека и искать что-то значимое.

СПИСОК ЛИТЕРАТУРЫ

Акерман П. Л. (1986). Индивидуальные различия в обработке информации:

Исследование интеллектуальных способностей и выполнения заданий на практике

.Интеллект, 10, 101–139.

Акерман П. Л. (1987). Индивидуальные различия в обучении навыкам: интеграция

психометрических и информационных перспектив.

Психологический бюллетень, 102, 3–27.

Алике, М. Д., Клотц, М. Л., Брайтенбехер, Д. Л., Юрак, Т. Дж., &

Вреденбург, Д. (1995). Личный контакт, индивидуализация и эффект лучше —

на

выше среднего. Журнал личности и социальной психологии, 68,

804 — 825.

Allgeier, A. R., & Byrne, D. (1973). Влечение к противоположному полу как

детерминант физической близости. Журнал социальной психологии, 90,

213–219.

Андерсон, Н. (1981). Методы интеграции информации. Нью-Йорк:

Academic Press.

Бирнат, М., и Манис, М. (1994). Сдвиг стандартов и стереотипов

суждения. Журнал личности и социальной психологии, 66, 5–20.

Блэнтон, Х., Jaccard, J., Gonzales, P. M., & Christie, C. (в печати).

Декодирование теста неявной ассоциации: последствия концептуальных и

наблюдаемых различий оценок для прогнозирования критериев. Журнал Exper-

imental Social Psychology.

Коэн Дж. (1988). Статистический анализ мощности для поведенческих наук.

Хиллсдейл, Нью-Джерси: Эрлбаум.

Ерев И., Валлстен Т. С. и Будеску Д. В. (1994). Одновременное превышение

и недоверие: роль ошибки в процессах суждения.Психо-

логическое обозрение, 101, 519–527.

French-Lazovik, G., & Gibson, C. L. (1984). Влияние устно обозначенных

точек привязки на параметры распределения рейтинговых показателей.

Прикладное психологическое измерение, 8, 49–57.

Гэннон, К. М., и Остром, Т. М. (1996). Как значение придается рейтингу

шкалы: Влияние языка ответа на активацию категории. Журнал

экспериментальной социальной психологии, 32, 337–360.

Гринвальд, А.Г., Банаджи, М., Руднам, Л., Фарнхэм, С., Носек, Б.А., &

, Меллотт, Д. (2002). Единая теория неявных установок, стереотипов,

самооценки и самооценки. Психологическое обозрение, 109, 3–25.

Гринвальд, А.Г., МакГи, Д.Э., и Шварц, Дж. Л. К. (1998). Измерение —

индивидуальных различий в неявном познании: Тест неявной ассоциации —

. Журнал личности и социальной психологии, 74, 1464 —

1480.

Гринвальд, А.Г., Носек, Б.А., и Банаджи, М.Р. (2003). Понимание

и использование теста неявной ассоциации: I. Улучшенный алгоритм подсчета очков — ритм

. Журнал личности и социальной психологии, 85, 197–216.

Хардин, К., и Бирнбаум, М. Х. (1990). Податливость «пропорциональных» суждений

профессионального престижа. Американский журнал психологии, 103, 1–20.

Хеви, Д., и Макги, Х. М. (1998). Статистика размера эффекта: полезно ли в

исследованиях последствий для здоровья? Журнал психологии здоровья, 3, 163–170.

Джейкобсон, Н. С., Робертс, Л. Дж., Бернс, С. Б., и МакГлинчи, Дж. Б. (1999).

Методы определения и определения клинической значимости лечебных эффектов —

эффектов: Описание, применение и альтернативы. Журнал

Консультации и клиническая психология, 67, 300–307.

Каздин, А. Э. (1999). Значения и измерение клинической значимости

icance. Журнал консалтинговой и клинической психологии, 67, 332–339.

Кендалл, П.К., Марс-Гарсия, А., Нат, С. Р., и Шелдрик, Р. С. (1999).

Нормативные сравнения для оценки клинической значимости.

Журнал консалтинговой и клинической психологии, 67, 285–299.

Клайн П. (1998). Новая психометрия: наука, психология и измерения. Нью-Йорк: Рутледж.

Лент, Р. В. (2001). Некоторые практические рекомендации по определению эффективного размера выборки

. Американский статистик, 55, 187–193.

Лорд, Ф.М. (1952). Теория результатов тестов. Психометрическая монография

(Целый № 7).

Лорд, Ф. М., и Новик, М. Р. (1968). Статистические теории ментального теста

балла. Ридинг, Массачусетс: Эддисон-Уэсли.

Люс Р. Д., Кранц Д. Х., Суппес П. и Тверски А. (1990). Найдено-

ции измерений: Vol. 3. Представление, аксиоматизация и инвариантность

. Сан-Диего, Калифорния: Academic Press.

Матти, С. (1998). p ⬍ .05 — Но имеет ли это клиническое значение ?: Практические

примеров для клиницистов.Изменение поведения, 15, 140–146.

МакКоннелл, А. Р., Лейбольд, Дж. М. (2001). Отношения между неявным

тестом ассоциации, дискриминационным поведением и явными измерениями расовых отношений

. Журнал экспериментальной социальной психологии, 37, 435–

442.

Мессик С. (1995). Достоверность психологической оценки: Подтверждение

выводов, сделанных на основе ответов и выступлений людей, в качестве научного определения

для оценки значения баллов.Американский психолог, 50, 741–749.

39Январь 2006

Американский психолог

Нейронный перенос произвольного стиля для портретных изображений с помощью механизма внимания

17.02.2020 ∙ Березин С.А. и др. ∙ 0 ∙ Поделиться

Передача произвольного стиля — задача синтеза образа, который никогда не был замечен ранее, используя два заданных изображения: изображение содержимого и изображение стиля.В изображение содержимого формирует структуру, основные геометрические линии и формы результирующее изображение, в то время как изображение стиля устанавливает цвет и текстуру результат. Слово «произвольный» в данном контексте означает отсутствие кого-либо предварительно выученный стиль. Так, например, сверточные нейронные сети, способные перенос нового стиля только после обучения или переобучения на новое количество данные не рассматриваются для решения такой проблемы, а сети, основанные на механизмы внимания, способные выполнять такую ​​трансформацию без переподготовки — да.Исходным изображением может быть, например, фотография, а стилизованным изображением может стать картина известного художника. Полученное изображение в в этом случае будет сцена, изображенная на исходной фотографии, сделанной в стиль этой картины. Недавние алгоритмы переноса произвольного стиля делают его в этой задаче можно добиться хороших результатов, однако при обработке портрета изображения людей, результат таких алгоритмов либо неприемлем из-за чрезмерное искажение черт лица или слабо выраженное, не несущее характерные черты стилевого образа.В этой статье мы рассматриваем подход к решению этой проблемы с использованием комбинированной архитектуры глубоких нейронных сети с механизмом внимания, который передает стиль на основе содержимого определенного сегмента изображения: с явным преобладанием стиля над формой для фоновой части изображения и с преобладанием содержания над форма в части изображения, содержащая непосредственно изображение человека.

ПРОЧИТАТЬ ПОЛНЫЙ ТЕКСТ

Половой отбор | Изучайте науку в Scitable

Бейтман, А.J. Межполовый отбор в Дрозофила. Наследственность 2 , 349-368 (1948).

Биркхед, Т. Р. и Моллер, А. П. Конкуренция сперматозоидов и половой отбор . Сан-Диего, Калифорния: Academic Press, 1998.

Калхим, С. и Биркхед, Т. Р. Тестес размер птицы: качество по сравнению с количеством — предположения, ошибки и оценки. Поведенческая экология 18 , 271-275 (2007).

Chapman, T., Arnqvist, G. et al. Сексуальный конфликт. Тенденции в экологии и эволюции 3 , 41-47 (2003).

Клаттон-Брок, Т. Х. и Паркер, Г. А. Сексуальное принуждение в обществе животных. Животные Поведение 49 , 1345-1365 (1995).

Кронин Х. Муравей и павлин . Кембридж, Великобритания: Кембриджский университет Пресс, 1991.

Дарвин, К. Происхождение мужчины и отбор по половому признаку . Лондон, Великобритания: Мюррей, 1871 г.

Эберхард, В. Женский контроль: половой отбор тайным женским выбором . Принстон, Нью-Джерси: Принстон Университет Press, 1996.

Эмлен Д. Дж. Эволюция Оружие животных. Ежегодный обзор экологии , Систематика, и Evolution 39 , 387-413 (2008).

Фишер Р. А. Генетическая теория естественного отбора . Оксфорд, Великобритания: Clarendon Press, 1930.

Гамильтон, В. Д. и Зук, М. Наследие настоящий фитнес и яркие птицы: роль паразитов? Наука 218, 384-387 (1982).

Келлер, Л. и Рив, Х. К. Почему женщины спариваться с несколькими самцами? Гипотеза сперматозоидов, отобранных половым путем. Продвинутые исследования поведения , 24 , 291-315 (1997).

Киркпатрик М. Половой отбор и эволюция женского выбора. Evolution 82, 1-12 (1982).

Lande, R. Модели видообразования половым путем. селекция по полигенным признакам. Поступления Национальной академии наук, USA 78, 3721-3725 (1981).

LeBoeuf, B. Соревнования между мужчинами и репродуктивный успех морских слонов. американский Зоолог 14 , 163-176 (1974)

Паркер, Г. Конкуренция спермы и ее эволюционные последствия у насекомых. Биологический Обзоры 45, 525-567 (1970).

Паркер, Г. Половой отбор и половая принадлежность конфликт. В Половой отбор и Репродуктивная конкуренция насекомых . ред. Блюм, М. С. и Блюм, Н. А. (Нью-Йорк: Academic Press, 1979): 123-166.

Prum, R.O. Филогенетический анализ эволюции демонстрационного поведения неотропических манакинов (Aves: Pipridae). Этология 84 , 202-231 (1990).

Штутт, А. Д., Шива-Джоти, М. Т. Травматик осеменение и половой конфликт у постельного клопа Cimex lectularius. Proceedings of the National Academy of Sciences , USA, 98 , 5683-5687 (2001)

Trivers, R.L. Родительские инвестиции и половой отбор.В Половой отбор и Происхождение человека 1871-1971 . изд. Кэмпбелл, Б. (Лондон: Heinemann 1972): 136-179.

Захави, A. Выбор партнера: выбор для гандикапа. Журнал теоретической биологии 53, 205-214 (1975).

Обнаружение и распознавание текстов произвольной формы по изображениям продуктов — Databricks

— Привет всем, я Раджеш Шридхар Бхат, я работаю старшим специалистом по данным в Walmart Global Tech India.Сегодня я расскажу об обнаружении и распознавании текста произвольной формы на изображениях продуктов. Вот так выглядит повестка дня. Итак, изначально я дал обзор извлечения текста. Позже я расскажу о методах распознавания текста, а затем перейду к задаче подготовки данных для обучения распознаванию текста. Позже я расскажу о разных моделях распознавания текста. Начнем с модели CRNN-CTC, затем модели на основе внимания, а затем в основном охватим сети пространственной передачи. Это в основном для повышения точности распознавания текста.Когда есть текст произвольной формы или текст кода. Затем я расскажу о точности модели при разных настройках на разных наборах данных. Затем, наконец, мы поговорим об обучении и определении моделей. Ага, чтобы извлечь текст. По сути, нам нужно знать, где именно текст присутствует на изображении продукта. Так что это не что иное, как задача обнаружения текста. Итак, после задачи обнаружения текста у нас есть ограничивающие рамки, которые поступают из модели обнаружения текста. И как только мы узнаем, где именно текст присутствует на изображении, мы можем обрезать эти области.И мы можем отправить эти области подрезки в задачу распознавания текста. Итак, после задачи распознавания текста у нас есть необработанный текст, который в основном присутствовал на изображении продукта. Таким образом, вы также можете увидеть пример ниже. Таким образом, при наличии изображения продукта обнаружение текста выполняется. И мы знаем, где именно на изображении присутствует текст. Итак, вы можете видеть ограничивающие рамки вон там. И как только у нас есть ограничивающие рамки, мы обрезаем эти области и отправляем их в модель распознавания текста. И, наконец, у нас есть необработанный текст, исходящий из модели распознавания текста.Итак, я кратко расскажу о сценариях использования, которые мы пытаемся решить в Walmart. Итак, один из вариантов использования, например, проверка, есть ли на изображении продукта какой-либо оскорбительный контент или нет. Поэтому мы определенно не хотим показывать подобные изображения на сайте the.com. И другие варианты использования, иногда бывает так, что каталог продуктов не чистый. А иногда пропадают некоторые атрибуты, верно? Итак, в этой ситуации мы извлекаем текст из изображений продуктов, а затем выполняем извлечение атрибутов поверх него.Таким образом, атрибутом может быть бренд или ингредиенты, которые подходят. Так что есть пара вариантов использования, которые характерны для розничной торговли и электронной коммерции. Помимо этого, существует несколько вариантов использования, в которых можно использовать извлечение текста. `Итак, один из примеров — это, скажем, мониторинг контента в социальных сетях, верно. Итак, если вы рассматриваете Facebook или любую из социальных сетей. Так много контента загружается каждый день, верно? А ручной мониторинг всего этого — очень сложная задача.Таким образом, у нас есть возможность извлечения текста. Какое бы изображение ни было загружено, мы пытаемся увидеть, какой контент в нем присутствует. Это оскорбительно? Против чего-то великого? чтобы мы могли извлечь эту информацию автоматически и попытаться автоматизировать эту задачу. Так что это похоже на несколько вариантов использования с извлечением текста. Итак, теперь я кратко расскажу о задаче обнаружения текста. Да, так в предсказании текста. На самом деле я имею в виду статью, опубликованную в CVPR 2019. Так что это было от ClovaAI. Итак, Янгмин и др., Они придумали статью под названием «Знание области символов при обнаружении текста».Таким образом, предсказание текста достигается на уровне персонажа, вместо того, чтобы правильно обрабатывать задачу на уровне слова. В отличие от многих легко доступных моделей прогнозирования текста. Это немного другое дело, поскольку задача обнаружения текста выполняется на уровне персонажа. А затем пытается объединить информацию и затем сформировать ограничивающую рамку на уровне доски. Итак, это задача сегментации. Итак, когда это задача сегментации, хорошо известная архитектура похожа на единицу. Это довольно известная и медицинская задача сегментации изображений.Итак, здесь также для обнаружения текста архитектура выглядит очень похоже. Итак, у нас, как и у VGG16, есть нормализованная версия VGG16 в качестве основы в архитектуре устройства. И как несколько блоков сэмплирования и определенно как пропустить соединения, верно. Итак, как видите, с учетом входного изображения. Наконец, выходом модели является оценка региона и оценка сродства. Таким образом, оценка по региону в основном предназначена для того, чтобы сообщить нам, где именно присутствует текст. Персонаж присутствует на изображении справа.А показатель близости предназначен в основном для группировки персонажей. Сказать, что данные два символа принадлежат одному слову или нет. Так что, по сути, это не что иное, как маски, исходящие из модели сегментации. В любой типичной задаче сегментации у нас есть входное изображение, и мы пытаемся придумать соответствующую маску для этого права. По сути, объект, который находится в фокусе, верно. Итак, мы получаем маску вон там. Здесь объект в фокусе — не что иное, как текст.Хорошо. Итак, в задаче сегментации, поскольку я сказал, что нам нужна маска и на этапе обучения, верно. Нам нужно соответствующее изображение или для этого нам нужно изображение и соответствующая маска. Итак, в основном, поскольку модель обнаружения текста дает оценку региона и оценку сродства. Нам нужны маски для обеих этих задач. Итак, в качестве обучающих данных у нас есть символьные блоки с этим, как вы можете видеть на этом изображении. У нас есть коробки персонажей для мира. Слово мир, верно. И для каждого из персонажей у нас есть правильные поля обнаружения.Итак, это основная истина, которая доступна нам. Итак, это наш открытый источник данных, который называется синтаксическими данными, хорошо. Итак, как только у нас есть эти ящики с персонажами, мы генерируем ящики сродства и, наконец, приходим к наземной истине для оценки региона и наземной истины с помощью этих ящиков сродства и ящиков персонажей. Теперь мы увидим, как мы получаем блоки сродства из ящиков с персонажами. Возьмите две коробки из двух последовательных символов, то есть P и D. Затем соедините диагонали вправо. В основном эта часть права.У нас есть после соединения диагоналей для обоих этих символов P и D, верно? Тогда у нас получатся треугольники. Затем найдите центроиды этих треугольников и соедините все эти центроиды. Хорошо Так что это не что иное, как Affinity Box. Окно схожести показывает, являются ли эти два символа частью одного слова или нет. Так что, если вы посмотрите на это изображение, хорошо. И еще есть слово, почему оно написано W-H-Y, верно? Между последней буквой E и начальной буквой W нет рамки соответствия.Потому что они являются частью двух разных слов. Так что там нет коробки сродства. Итак, как только у нас есть прямоугольники аффинити и прямоугольники символов, мы берем двумерный изотропный гауссовский. верно? И у нас есть блок, блок символов или блок сходства, затем мы пытаемся преобразовать этот двухмерный изотропный гауссовский фильтр в этот конкретный блок. Это ничего, но мы применяем перспективное преобразование, а затем получаем преобразованную 2D-версию, верно. Таким образом, это преобразование 2D-Гаусса для меня является не чем иным, как маской для каждого из персонажей, а также для сходства между персонажами.Хорошо. Итак, это входное изображение, пока не обращайте внимания на поля. Для нас мир — это ничто иное как лучший входной образ. И основная правда для этого изображает основную правду региона и приземную истину оценки близости. Итак, это вход, а эти два выхода. Так что это в основном маска. Обычно в задачах сегментации у нас есть как бы бинарная маска. Но в этом случае у нас есть сплошная 2D-версия в виде маски. Хорошо, и последняя функция также является непрерывной, поэтому мы увидим людей, о которых упоминалось, что они используют среднеквадратичную ошибку в качестве функции потерь.Хорошо, вы можете обратиться к статье, которую я дал здесь, вы можете обратиться к статье в автономном режиме и получить более подробную информацию по этому поводу. Но я надеюсь, что вы получили общее представление о том, как теперь осуществляется обнаружение текста. Хорошо. Это пример вывода, взятого из самой статьи. Учитывая скорость входного изображения, которая находится наверху, вы можете увидеть соответствующий балл региона и показатель близости, верно? Итак, если взять пример с морепродуктами и лачугой, верно? Таким образом, между последним словом D и первым словом S.Потому что эти две буквы являются частью разных слов, верно? Таким образом, здесь нет показателя близости, здесь мы видим пробел. Здесь нет маски. Хорошо? Итак, как только у нас есть оценка региона и оценка близости. Верно? Мы можем объединить эти две оценки. И затем мы можем использовать функции из открытого резюме, которое связано с компонентами. И минимальные функциональные возможности прямоугольника площади из открытого резюме. Чтобы наконец прийти к ограничивающей рамке, верно? Итак, как вы можете видеть, в верхней части есть ограничивающая рамка для каждого слова, верно? Да, это было, как если бы это было опубликовано в самой газете, я снял сцену.Теперь посмотрим на изображении продукта, как выглядят результаты. Хорошо, я взял здесь два образца продукта. Как видите, это строка оценки символа. По сути, оценки персонажа присутствуют, а также используются оценки сродства. И, наконец, мы приходим к ограничительной рамке для каждого слова на изображении продукта. Хорошо? Так что единственное, что я хотел бы сказать, это то, что на крышке этого продукта написано ремесло, верно. Так что, даже если это не обычное дело, если вы посмотрите на бутерброд и намазываете его, не так ли? Я имею в виду, что они похожи на скорость чтения человеческим глазом.Но ведь на крышке написано слово «ремесло»? Даже если это немного наклонно или с другой точки зрения, мы можем обнаружить эти вещи. Теперь проблема в том, что мы ее обнаруживаем, но как мы ее распознаем? Верно. Итак, мы посмотрим, например, мы рассмотрим слайды, мы увидим, как этого можно достичь с помощью сетей пространственной трансформации. Хорошо. Итак, следующая задача, да, когда у нас будут ограничивающие рамки. Теперь следующая задача — распознать текст.Итак, мы подробно рассмотрим, как достигается задача распознавания текста. Да, прежде чем углубиться в методы, я хотел бы сосредоточиться на части генерации данных. Часть генерации обучающих данных для задачи распознавания текста. Итак, в основном мы используем текстовые названия и описания продуктов и пытаемся синтетически создавать изображения, используя их. Итак, мы используем библиотеку под названием synth text. Так что это как если бы у нас был обычный текст. Описание или название, название продукта. Итак, мы отбираем единицы граммов.И по граммам. Мы берем одно слово за раз или два слова за раз. И попробуйте искусственно создать из этого образ. Хорошо? Таким образом, мы создали около 15 миллионов изображений, используя названия и описания продуктов. И множество вариаций при генерации текстового изображения. Верно? Был включен в набор данных. Таким образом, варианты включают в себя изменение стилей шрифта, изменение размеров шрифта, разных цветов, разного фона. В обучающую выборку было включено множество вариаций. Хорошо? Потому что в изображениях продуктов текст не является однозначным.Как будто у нас много вариаций в самом изображении продукта. Итак, чтобы имитировать это, мы включили эти вариации в процессы генерации данных. Верно? Итак, наконец, как будто у нас в словаре было 92 символа. который включает заглавные и строчные буквы, цифры и специальные символы. Потому что мы включили специальные символы, потому что есть много специальных символов статуса, которые входят в своего рода настройку изображения продукта. Да, какие данные генерируются, не так ли? Все зависит от результатов выполнения задачи.В данном случае это было похоже на извлечение текста из изображений продуктов. Итак, мы взяли названия и описания. И поскольку он создал данные синтетическим путем. Посмотрим, пытаемся решить захват. Тогда тип текста, который входит в обучающий набор при создании обучающего набора, совершенно другой, верно. Так что это могут быть случайные буквы, за которыми следуют несколько цифр или что-то в этом роде. Это прямая линия или что-то в этом роде. Таким образом, тип набора данных, который мы создаем, полностью зависит от задачи в SynthText.А теперь я расскажу о разных техниках. Да, для начала мы разработали модель CRNN-CTC для распознавания текста. Поэтому я не буду подробно рассказывать об этом, потому что об этом уже говорилось в моем предыдущем выступлении. Это произошло несколько месяцев назад на саммите Spark AI. Так что вы можете это сделать уже на YouTube. Так что вы можете поискать на YouTube саммит Spark AI по извлечению текста. Вы должны увидеть подробное описание сетей CRNN-CTC. Кроме того, в разделе «Веса и предубеждения» публикуется блог. Итак, есть ссылка на блог, а также вы можете просто отсканировать этот QR-код, чтобы перейти в блог, и вы можете отключить его.Итак, мы начали с модели CRNN-CTC, затем мы увидели, что она не работает хорошо, если изображение немного размыто, верно? Ага, после модели CRNN-CTC, верно. Дело в том, что мы не получаем хорошей точности, если изображение было размытым и все в порядке. Вот почему мы изобрели механизм внимания. Итак, в основном изображение передается в модель CNN, а затем, после перехода к модели CNN, мы получаем из нее функции. А затем эти визуальные особенности передаются в кодировщик LSTM. Хорошо? И затем из блока кодировщика LSTM мы получаем скрытые состояния на каждом временном шаге, и они используются в нижней части для скорости механизма внимания.Таким образом, этим скрытым единицам LSTM из входного блока присваиваются веса. И, наконец, эти оценки внимания используются, чтобы больше сосредоточиться на определенной части изображения, а затем декодирование выполняется в блоке декодера LSTM. Хорошо? Интуиция подсказывает, что, скажем, мы пытаемся извлечь букву F, верно? Итак, у нас здесь есть Форум, верно? Итак, изображение содержит слово Forum, допустим, мы извлекаем букву F, хорошо? Я имею в виду, что основное внимание следует уделять букве F, верно? При извлечении буквы F.Таким образом, нам не нужно сосредотачиваться на всем изображении правильно. Такова интуиция. Так что механизм внимания заботится об этом и о весе и возрасте при извлечении F, верно? Весовой возраст был бы даже ближе к региону, который на самом деле присутствует, хорошо? То же самое и с другими персонажами. Итак, это делается генеративным способом. Хорошо? По сравнению с моделью CRNN-CTC, верно. Итак, это было сделано дискриминационным образом. Итак, это фреймворк кодировщика-декодера, и вроде бы оно достигнуто, предсказания в генеративной форме в порядке.Таким образом, здесь можно также использовать поиск луча, чтобы сделать прогнозы лучше. Итак, в основном в блоке декодера для каждого временного шага. То, что у нас есть, — это вероятности мягкого максимума по словарю. Итак, как я сказал ранее, в нашем словаре было около 92 символов. Итак, для каждого временного шага мы получаем прогнозы мягкого максимума по словарю. И, используя это, мы можем прийти к выводу, какую букву мы пытаемся получить на этом конкретном временном шаге, и тогда мы можем полностью получить правильные прогнозы.Поскольку это делается генеративным способом, мы можем продолжить и использовать перекрестную энтропию как функцию потерь. Хорошо. Ага. Итак, позже мы увидели, что изображения продуктов с текстом кода верны. Итак, мы не можем делать так, как мы не можем делать довольно прилично и извлекать, если текст содержит произвольные формы или текст кода в порядке. Итак, вот пример использования был похож на классификацию оскорбительного текста. На футболке изображения похожи на два оскорбительных текста, и иногда бывает, что текст в кодовой версии был нормальным.А если посмотреть на левое изображение справа. Итак, вы видите, что бренд Happilo как бы написан изогнутым вправо. Таким образом, мы столкнулись с некоторыми проблемами в распознавании внимания сети Нора CNN-CTC. Мы смогли довольно прилично справиться с задачей обнаружения, которая была достигнута за счет сегментации по уровням персонажей. Но с точки зрения узнаваемости модель была не очень хороша. Итак, мы пошли дальше с сетями пространственной трансформации. Итак, «Сети пространственной трансформации» — это не что иное, как обучаемый модуль.Таким образом, его цель состоит в том, чтобы увеличить пространственную инвариантность сверточных нейронных сетей с точки зрения вычислительной и параметрической эффективности. Итак, допустим, у нас есть правильная модель CNN LSTM, основанная на внимании. Итак, мы можем выбрать эту модель STN, непосредственно перед моделью CNN, и это модели, которые можно изучить, и в основном они пытаются правильно изучить тонкие преобразования. Итак, как вы можете видеть на изображении здесь, учитывая, что входное изображение является версией кода. Итак, после примененной сети пространственного преобразования. У нас есть исправленное изображение.Итак, слово «луна» раньше называлось, а теперь у нас есть исправленная версия слова «луна». Итак, как только у нас есть это, исправленное изображение или нормализованное изображение, верно? Таким образом, весь процесс остается прежним, поэтому мы можем передать его через модель на основе внимания CNN-LSTM или модель на основе CNN-CTC, хорошо. Таким образом, пространственное преобразование в сетях помогает преобразовать текущую форму, изображение произвольной формы или текст в нормализованную версию. верно. Это главное преимущество наличия сетей пространственной трансформации.Хорошо. Итак, как вы можете видеть здесь, я записал точность моделей разных моделей на разных наборах данных. Итак, до ICDAR13 наборы данных содержат только текст правильной формы. В тестовых данных нет особых различий, но после ICDAR15, который в основном выделяет последние 4 строки. Итак, это содержит образцы, которые включают в себя множество вариаций. В основном текст произвольной формы или текст кода, такого рода варианты, верно? Итак, когда я говорю здесь о точности, верно? Если вы посмотрите вправо, скажем так, истинная правда — Привет, а предсказанное — Привет.Если есть точное совпадение, тогда оценка дается как 1. Итак, даже если есть несоответствие в одном символе, верно? Итак, оценка рассматривается как 0. Хорошо. Теперь вы можете видеть текст обычной формы, верно? С моделями CRNN-CTC, допустим, набор данных IIIT 5K правильный. Таким образом, точность была на уровне 81,6, и на основе LSTM Attention также были даны довольно похожие, в основном, схожая точность, верно. И если вы перейдете к набору данных ICDAR15 или CUTE, правильно. Вы можете видеть, что модель CRNN-CTC или CNN LSTM без пространственного преобразования имела гораздо меньшую точность.Точность была примерно от 65 до 66%. Верно. Но если вы видите с сетями пространственной трансформации, верно. Так что теперь точность увеличена примерно на 20%, верно? Так что сейчас точность составляет около 85%. То же самое верно и для набора перспективных данных ICDAR15 или SVT. Итак, вы можете видеть, что пространственные преобразования определенно помогли нам, помогли нам распознать текст произвольной формы. И это ясно видно по точности, которая здесь представлена. Хорошо, наконец, подошли к тренировке и развертыванию.Итак, как я сказал ранее, мы создали 15 миллионов изображений. Итак, если мы загрузим все в память, то получится около 690 ГБ, учитывая, что размеры изображения вроде 128 на 32 на 3,3 не лучше, чем сказать, что это цветное изображение. Итак, мы используем загрузчики данных от бойцов. По сути, используются генераторы генеративной версии. И вместо того, чтобы загружать все в память, правильно загружается только один пакет. И обучение проводится соответственно. Обучение проводилось на 4GPU Spalletti V100 GPU.И как только модель была обучена, мы развернули эти модели на платформе машинного обучения, которая является внутренней для Walmart. Изначально у нас были как бы отдельные развертывания для задачи обнаружения и распознавания текста. Итак, позже мы увидели, что я имею в виду, что эти вызовы API должны выполняться для извлечения окончательного текста, не так ли? Таким образом, потеря двух вызовов API означает, я имею в виду, двойную отправку изображения по сети. Таким образом, сетевая задержка также учитывается в общей скорости извлечения. Вот почему мы объединяем модели обнаружения и распознавания текста в одно развертывание.Итак, он развернут на V100GPU. И время предсказания для каждого изображения составляет примерно 0,45 секунды. Ладно, да, это было по обучению и развертыванию. Итак, это команда, стоящая за проектом, я — Раджеш Бхат, а затем у меня есть мои коллеги, Пранай, Анирбан и Виджай, которые являются частью этого проекта. Да, я надеюсь, вы все получили представление о том, как решить проблему обнаружения и распознавания текста, когда речь идет о текстах произвольной формы. Поэтому, учитывая ограниченное время, я попытался дать обзор различных техник.Надеюсь, это было полезно. Да, код и образец кода для содержания доклада и PPT доступны по ссылке GitHub здесь. Таким образом, вы можете обратиться к ссылке GitHub или отсканировать QR-код. И если у вас есть вопросы, пожалуйста.

Определение произвольного слова Merriam-Webster

ар · би · трарий | \ ˈÄr-bə-ˌtrer-ē , -ˌTre-rē \ 1а : существующие или возникающие на первый взгляд случайно, случайно или в результате капризного и необоснованного волевого акта.

About the Author

Добавить комментарий

Ваш адрес email не будет опубликован.

Related Posts