Ошибки, катастрофы и "человеческий фактор"

Введение

Цель настоящей работы - определить некоторые методологические основания проектирования взаимодействия человека и комплекса средств автоматизации деятельности, т.е. безошибочной работы человека как элемента автоматизированной системы. Известно, что значительная часть аварий, катастроф по выводам экспертных комиссий приходится на человеческие ошибки, на так называемый "человеческий фактор". Что же служит причиной человеческих ошибок? Наиболее сакраментальный ответ - человеку свойственно ошибаться и не ошибается только тот, кто ничего не делает.

Направления развития технологии, о которых я говорю, хорошо известны и часто обсуждаются в литературе. Мы все-таки коротко рассмотрим их здесь, чтобы расчистить площадку для последующего обсуждения.

Общая тенденция развития индустрии заключается прежде всего в быстрой и непрерывной централизации, глобализации, росте размеров и сложности систем. Нарушения правил эксплуатации или ошибки, допускаемые при работе в больших системах и использовании больших технологических установок, приводят к серьезным последствиям. Более того, при высоком уровне оптимизации процесса управления персоналу приходится маневрировать в узком коридоре, выбирая между большими финансовыми потерями, потерями продукции или иными потерями и серьезным ущербом для оборудования, персонала или окружающей среды.

Большие системы должны быть сконструированы и построены таким образом, чтобы вероятность угрозы обоев и потерь была минимальной, а свобода действий операторов — как можно больше ограничена и предоставлена возможность строго контроля.

В то же время в системах любой природы по-прежнему остается человек, который отличается гибкостью, обучаем, может приспособиться к тонким особенностям работы. Благодаря этому оператору и удается выполнить свою важную функцию: закрывать бреши и устранять ошибки, которые оставили проектировщики.

Эти условия могут быть приняты только в том случае, если проект построен на основе системы критериев, учитывающих риск и некоторые базовые свойства человека. Не может не беспокотьб то, что объяснения самых крупных происшествий в промышленности по причине человеческих ошибок, часто строятся на основе поверхностного анализа. В результате выдвигаются требования перестроить систему и рекомендации администрации: "Лучше тренируйте персонал и строже контролируйте точность выполнения инструкций". Нечего и говорить, что эти меры не решат проблемы, тем более что допустимая вероятность происшествий становится все ниже.

Базовая работа Дж.Раcмуссен [1] посвящена обсуждению вопроса о роли и ответственности конструкторов и операторов больших сложных промышленных установок. Мы же будем говорить о ошибках человека в контексте его работы в качестве элемента автоматизированной системы (АС), независимо от ее назначения. Как правило, в системах, работающих в реальном масштабе времени (например, управление технологическими процессами, управление движением, экспериментом и т.п.) человека называют оператором. Особенностью работы в таких системах является если не дефицит времени, то все-таки его строгое ограничение. В дальнейшем в общем случае мы будем употреблять термин "пользователь", имея в виду человека работающего в контуре управления человеко-машинной системы любого назначения (от систем автоматизированного проектирования до систем управления технологическими процессами).

Итак, пользователь взаимодействует с АС через интерфейс, который в современных АС представляет собой в рассматриваемых нами случаях клавиатуру, мышь, экранные формы (включая мультимедийные) и отчеты (на экране или в бумажном виде), звуковые сигналы компьютера.

Зачем нужен человек:

Какого рода задачи решает человек в АС?

Пусть задача определяется как , где

- множество возможных решений,

- критерий выбора решений.

Более общее определение z= (, O, ),

где O - множество ограничений.

Итак,

  1. если определены и и , то это задача оптимизации;
  2. если критерий оптимизации не может быть сформулирован, то это задача выбора;
  3. возможен случай, когда критерий оптимизации определен, а множество возможных решений – нет;
  4. если критерий оптимизации и множество решений не определены, то такие задачи не рассматриваются.

Критерий обычно векторный: , т.е. задача многокритериальная.

Какие же задачи решает собственно человек:

Какого рода ошибки бывают:

 

Как снизить количество ошибок:

Некоторые направления развития технологии ставят меня в затруднительное положение, поскольку уже сейчас имеется достаточно доказательств все большего обострения проблемы, возникающей из-за того, что конструкторы рассчитывают на те инструкции, которые они составляют для операторов, и на тренировки и потому склонны отвергать другие возможности приспособить машину к естественным возможностям человека.

АСУ ТП

В технологических процессах другая сторона технологического прогресса — быстрое возрастание уровня автоматизации при использовании компьютеров для управления технологическим процессом. В результате — гигантский скачок в автоматизации функций управления промышленными пусками, а также функций оптимизации и защиты. Часто утверждают, что по мере автоматизации операторы теряют чувство процесса, что особенно четко видно, когда из-за отказов в работе оборудования вмешательство оператора становится необходимым. Нет никакой уверенности в том, что совершенствование навыков, необходимых для управления процессом в нормальных условиях, будет способствовать успешным действиям оператора в тех редких случаях, когда ситуация требует импровизации. Чтобы убедиться, что у него достаточно знаний для понимания того, как функционирует система в ситуации, которая отличается от нормы, нужно изменить структуру задачи оператора и условия его труда.

Другая проблема состоит в том, что при высоких уровнях автоматизации возникает ситуация, когда конструктор вынужден участвовать уже в ходе регулярной эксплуатации системы управления. принимая решение по поводу того или иного конкретного случая. Это приводит по крайней мере к двум важным последствиям. Во-первых, оператору трудно понять все детали функционирования системы, поскольку об особенностях работы системы нельзя судить только на основе знаний о физическом устройстве. Необходимо знать и помнить те решения, которые были приняты в ходе разработки системы. Во-вторых, операторы и конструкторы часто оказываются в ситуации, когда они должны определить, кто виноват в происшедшем, а потом распределить ответственность, что часто становится причиной конфликта. Поэтому в тех случаях, когда интерес общественности к безопасности промышленной установки велик, а требования к персоналу резко возрастают, но при этом не поддаются точному определению, важно вновь обратиться к понятию "ошибка человека" и вспомнить о его значении для определения стратегии проектирования и разработки систем.

Человеческие ошибки

По сравнению с техническими компонентами системы человек- оператор отличается определенными особенностями, которые необходимо очень тщательно проанализировать, чтобы убедиться в том, что наша направленность на человеческие ошибки разумна и обоснована.

Как определяются ошибка человека и его вина? По сути они рассматриваются как причины невыполнения задач. Если система функционирует ниже допустимого стандарта, необходимо пройти по причинно-следственной цепи в обратном направлении, чтобы все-таки установить подлинную причину происшествия. Как далеко следует вернуться назад, если причину все-таки не удается установить? Обычно поиск прекращается тогда, когда удается найти одно или несколько изменений, которые известны и поэтому могут служить объяснениями происшествия. Затем принимаются за коррекцию найденных изменений.

В случае технического сбоя, нарушение определяется на уровне того элемента, который может быть заменен. Однако, нарушение функционирования компонента не всегда считается приемлемой причиной; например, если оно происходит слишком часто, или носит несистематический характер. Тогда поиск продолжают обычно до тех пор, пока не будет определена внешняя причина нарушения функционирования системы. Коротко говоря, можно дать следующую характеристику нарушений системы как отклонения от стандарта: если причина ошибки отклонение от стандарта, то в этом случае движение по цепи причинных связей в обратном направлении от происшествия допустимо; при этом причина приемлема как знакомое и потому разумное объяснение; пути исправления положения известны. По каждому из этих пунктов положение человека-оператора нельзя считать удачным. Короче причина аварии либо технический отказ, либо внешняя непреодолимая причина. Но может быть и ошибка проектирования.

При выяснении причин события обычно не удается исключить из рассмотрения человека, прежде всего из-за его сложности. Как минимум, необходим тщательный анализ условий его труда в каждом отдельном случае. Он должен проводиться компетентным специалистом по психологии труда — однако они редко привлекаются к проведению таких расследований. Кроме того, принято считать, что человеку свойственно ошибаться. Наконец, человеку всегда можно приказать повысить качество исполнения. Однако, подчеркнем еще раз аналогию между ошибками человека и нерегулярными сбоями в работе электронной системы. Для объяснения их часто придерживаются детерминистского принципа и стараются отыскать внешние причины, например, шумовые помехи. От шума необходимо избавиться или защитить оборудование от его влияния. Если речь идет о человеке, необходимо изменить трудовые условия, чтобы они лучше соответствовали человеческим ресурсам и механизмам. Эту позицию защищает Свейн (1972), который критикует традиционные программы повышения мотивации, но мы и сейчас еще можем убедиться в том, что административные органы, ответственные за безопасность, по-прежнему требуют от операторов строго выполнения заученных процедур.

Если не рассматривать эмоциональных или юридических аспектов вины человека, то нам ничего не остается, кроме как успокоиться на двоякой постановке вопроса: нарушение в работе системы вызвано либо ошибкой человека, либо несоответствием между человеком и машиной вследствие неправильного проектирования. Однако, вместо этого мы можем рассмотреть возможность уменьшения числа несоответствий путем адекватного проектирования условий труда и эффективного использования новой технологии проектирования сопряжений между человеком и машиной. С этой точки зрения интересно посмотреть, были ли отмечавшиеся ранее случаи такого несоответствия между человеком и машиной просто случайными наборами отдельных событий, или могут быть установлены некоторые общие тенденции, связанные с нормальным действием психологических механизмов.

Проект устойчивости к ошибкам

Выделяя основные положения нашего обсуждения и определяя их значение для разработки критериев проектирования, соотнесем различные категории человеческих ошибок с простой моделью деятельности. На рисунке представлены три разные категории управления человеческим поведением ( условный рефлекс, логический вывод из правил, логический вывод из цели) и показано, как они связаны о теми категориями человеческих ошибок, которые были названы в предыдущих разделах. Способы управления поведением человека постольку важны, поскольку их необходимо знать для выявления человеческих ошибок. Ошибка в человеческом действии может быть прямо установлена только в том случае, если имеется четкое предварительное описание той последовательности операций, которую должен выполнить человек. Однако чаще задаются только нормативные цели или результат действия, в то время как неудачное действия, исправленное на промежуточных этапах самим оператором не считается ошибочным. Следовательно, ситуация может привести к ошибке, когда норма, по которой можно сделать вывод о правильности поведения в ситуации, не управляет поведением, например, когда об управляемом целью поведении судят на основании нормативной процедуры, которая фактически отсутствует. Поэтому различные способы управления поведением человека очень важны для рассмотрения критериев разработки проекта устойчивости к ошибкам. Как видно из рисунка, для настоящего контекста уместно рассмотреть три уровня управления поведением человека: 1) управляемые сенсомоторные паттерны, поведение на основе навыков, 2) целенаправленное поведение, подчиненное выполнению определенных правил, 3) целенаправленное поведение, основанное на знаниях.

  1. Управляемый сенсомоторный паттерн и автоматизмы поведения.

Поведение управляется структурой адаптивных паттернов, сохраняемых в нервной системе. Это означает, что поведение подчиняется физиологическим законам, которые управляют структурой информационного процесса — в результате чего понятие ошибки теряет смысл. Неадекватное поведение можно объяснить только такими изменениями во внешнем мире, которые приводят к несоответствию со структурой, хранящейся в памяти человека. Требование работать усерднее, в строгом соответствии с инструкцией, не может привести к снижению числа ошибок. Если необходимо получить ровное, заученное поведение с низкой вероятностью ошибок, следует так спроектировать рабочую ситуацию, чтобы оператор мог легко различать паттерны: например, паттерны должны определять ситуацию целиком и непосредственно, а не через ключи и условные знаки. Это относится и к различению ситуаций, для выполнения которых требуется активность умственных процессов высокого уровня. И тогда неадекватность поведения в аномальной ситуации, определенная на основе понятия эффективной адаптации к нормальным условиям, не может считаться ошибкой оператора.

2.Определяемое правилами целенаправленное поведение.

Это поведение типично для относительно редких задач, возникающих в знакомой трудовой обстановке. Заученная последовательность действий или стандартных операций управляется правилами, сохраняемыми в памяти человека: они связывают состояние окружения со знакомыми действиями. В этом случае нельзя утверждать, что поведение прямо управляется целью, хотя при несоответствии конечных состояний заданной цели следует коррекция ошибок на основе обратных связей, управляемых целью, при условии, что эффекты ошибок доступны наблюдению и обратимы. Поведение, основанное на правилах, можно вывести путем проб и ошибок; оператор может сам сформулировать правила на основе причинных рассуждений, либо они могут быть предписаны нам заранее в форме рабочих инструкций. Тогда ошибки определяются как расхождения между целью и конечным состоянием, но, возможно, что о них будут судить вопреки нормативным правилам и процедурам.

Разработчик сталкивается с двумя проблемами. Первая заключается в том, чтобы создать такие рабочие условия, которые позволяли бы обслуживающему персоналу четко различать случаи, когда а) цели строго определены нормативами, а оператору не только позволено, но и рекомендуется оптимизировать рабочие процедуры, и б) нормативные правила определены только для тех условий, которые содержат в себе скрытую опасность. В таких ситуациях разработчик несет ответственность за правильность последовательности действий оператора и должен снабдить оператора соответствующими ключами для контроля последовательности действий. Когда разработчик определяет последовательность действий, задавая инструкции или автоматизируя процесс управления последовательностью, он сталкивается с другой проблемой: необходимо так построить рабочие условия, чтобы оператор мог

а) понять причины и условия именно такого построения инструкций и автоматизированных функций и

б)принимать решение о релевантности не только для того, чтобы найти выход из некоторой необычной ситуации, но — и что тоже важно — не создавать помех из-за неправильной интерпретации ответа, выданного автоматикой.

Можно сослаться на несколько случаев, когда последствия и без того серьезных ситуаций были еще более отягощены из-за борьбы, которую вел оператор о системой управления.

3.Поведение, управляемое целью и основанное на знаниях.

Это уровень "умного" решения задачи, который и объясняет присутствие оператора на автоматизированном производстве. Поведение оператора запускается незнакомыми событиями в системе: требуется участие оператора. Структура его деятельности состоит в том, чтобы оценить ситуацию и спланировать подходящую последовательность целенаправленных действий, и зависит от знаний о процессах, функциях и анатомической структуре системы. Кроме упомянутых выше проблем — например, как поддержать размышления оператора о цепи причинных связей и ответственности ( когда операторы обязаны думать, и это им позволено, и когда — нет), все яснее возникает другая проблема: каким образом можно обновить знания оператора большой сложной системы и как поддерживать их в состоянии готовности. Решение, которое предлагают обычно — удерживать автоматизацию на разумно низком уровне — по всей очевидности не может считаться эффективным, так как оно предполагает, что активность оператора не поднимается выше второго уровня; решение должно состоять в том, чтобы повышать квалификацию операторов, используя для подготовки те периоды, когда операторы не заняты срочной работой, например, в периоды ожидания давать им такие задачи, которые позволили бы операторам подготовиться к ответам в необычных, экстремальных ситуациях. Во многих случаях это потребовало бы изменений в структуре обучения да во всей организации деятельности операторов. (Галлай - ориентация на ошибку. Победитель и непобедитель)

Резюме.

Таким образом, анализируя причины человеческих ошибок, необходимо учитывать возможность формирования оператором двигательных стандартных подпрограмм для управления системой.

Когда оператор сам задает себе инструкции, контроль его деятельности опускается с уровня 3 на уровень 2, а затем на уровень 1. И с уровня 2 - на уровень 1, когда он действует под руководством инструктора или имеется заранее определенная и письменно заданная процедура. Это приводит к тому, что событие, которое на ранних стадиях обучения еще можно называть ошибкой, не может считаться таковым, когда оператором уже выработаны и хорошо заучены стандартные подпрограммы двигательных действий. Необходимость такого различения подчеркивал еще Toulmin(1969): "Человека можно натренировать, чтобы он вел себя так, как необходимо и настолько эффективно, чтобы действовать автоматически, чтобы он мог сразу замечать, правильно или неправильно он действует. Такое поведение не может считаться исполнением правил: понятие правил, ошибок или промахов становится бессмысленным".

Литература и источники

  1. Дж. Раcмуссен. О человеческих ошибках.
  2. Введение в технику работы с таблицами решений. Под ред. Д.А. Поспелова. М., "Энергия", 1979.
Hosted by uCoz