Создание единого банка горно-геологических данных добывающей компании
Недропользователи нередко сталкиваются с проблемами в управлении горно-геологическими данными, особенно если компании принадлежит более одного актива (включая поисково-разведочные площади). В данной
статье мы рассмотрим алгоритм разработки единого
банка данных для добывающей компании с несколькими
производственными площадками.
0
165
0
0
Михаил Столяров — Руководитель подразделения Geobank, MICROMINE Rus. E-mail: mikhails@micromine.com
Суть вопроса
Основные проблемы связаны с необходимостью получения актуальной и полной информации с производственных площадок. Зачастую же головной офис (управляющая компания) получает разнообразный набор данных (иногда в различных форматах и в не унифицированной форме). При этом актуальность и полнота получаемых данных не всегда соответствует внутренним требованиям. Это вызывает известные сложности в обработке и интерпретации информации, оценке существующего положения, аудите активов компании.
Причиной служит набор различных факторов, включая различную техническую оснащенность производственных площадок, отсутствие единого регламента сбора передачи данных, использование устаревших способов хранения и объединения информации и т.д.
Сбор и проверка данных
В большинстве случаев на каждом предприятии применяется своя устоявшаяся методика сбора и документации геологической информации. Однако, учитывая постановку задачи, необходимо обратить внимание на важность разработки единого регламента в рамках всей компании. Это позволит унифицировать сбор информации, привести к единому виду передаваемые файлы, уменьшить количество ошибок. Для создания единого банка данных полезными будут следующие шаги:
Аудит базы данных
При создании единого банка данных, хранящего в себе первичную информацию, получаемую с различных производственных площадок, одной из главных задач является аудит получаемой информации. Зачастую, даже в крупных компаниях, выполнение этой работы «ложится на плечи» одногодвух специалистов. Рассмотрим, основные обязанности, такого специалиста (ов):
На практике, выполнение даже указанных задач занимает бо'льшую часть рабочего времени специалистов. Вопрос оптимизации процессов аудита информации является приоритетным при создании единого банка данных на предприятии.
Решение данной задачи существенно облегчается при выполнении пунктов, описанных в параграфе «Сбор и проверка данных». Дополнительно необходимо разработать структуру хранилища несвязанных данных (фото, отчеты и т.п.) с их привязкой к единому банку информации, правила администрирования доступа к банку пользователей информации и т.п.
Использование единого банка данных
Большинство современных систем хранения информации, а также специализированных решений для управления данными, имеют функции ограничения доступа и распределения прав пользователей.
Несмотря на наличие подобных возможностей в широко используемых СУБД (MS SQL Server, Oracle и др.), удобным представляется использование специализированных программ по управлению данными для специалистов горно-геологического сектора.
В большинстве случаев пользователи информации не имеют специализированных навыков по работе с СУБД. А, зачастую, и специалисты-администраторы баз данных приобретают данные навыки самостоятельно. В таких условиях использование систем управления данными, имеющих интуитивно понятный интерфейс, легко администрируемых и имеющих набор специализированных инструментов (первичная обработка и интерпретация данных, отчетность и т.д.) становится приоритетным.
В рамках единого банка данных важным является определение прав пользователя на доступ к различным видам информации и работе с ней (занесение, изменение, чтение). Подобное ограничение не только защищает информацию от несанкционированного доступа, но и облегчает пользователю поиск необходимых данных (давая доступ лишь к необходимым пользователю рабочим данным).
Одним из основных направлений, использующих единый банк данных, является интерпретация данных с целью последующего построения геологических моделей, подсчета запасов, проектирования и т.д. (чаще всего с использованием различных горно-геологических информационных систем — ГГИС). Основные СУБД и решения для управления базами данных позволяют формировать их в том виде, который наиболее удобен для дальнейшей обработки в ГГИС системах.
Единый банк данных позволяет избежать ошибок связанных с различием в информации, используемой специалистами (или службами, производственными площадками) и актуальности данных. Чаще всего такие ошибки возникают при использовании файловых «баз данных» или при отсутствии четких правил приема/ передачи информации.
Отчетность
Задачи создания отчетов, характерны для всех этапов сбора, проверки и использования данных.
Многообразие отчетов и их внутреннее содержание требует возможности быстрой навигации по данным, сведе'ния различных данных в единые формы, фильтрации и выборке информации.
При наличии большого количества файловых архивов не связанных или требующих дополнительной обработки, задачи создания отчетности значительно усложняются.
При разработке единого банка данных необходимо учитывать требования к отчетным формам для задания уникальных идентификаторов и установки связей между данными, что в дальнейшем существенно облегчает создание отчетов.
В настоящее время наличие специализированных систем по управлению базами горно-геологических данных позволяет заранее разрабатывать регламентированные отчетные формы, что превращает процесс получения отчета в нажатие 1–2 кнопок.
Использование единого банка данных расширяет возможность аудита информации на каждом этапе занесения/использования информации, возможно получения отчетов по данным (например: наличие данных, полнота данных, ошибки в данных, значения в данных, превышающие пороговые, отчеты по использованию данных).
Наличие инструментария по отслеживанию изменений в данных (logжурнал) является дополнительным плюсом использования систем управления базами данных.
Безопасность
Как было сказано выше, разграничение прав доступа к информации является одной из важнейших функции СУБД и специализированных приложений по работе с базами данных. В основном функции ограничения контролируются исходя из вводимого логина/пароля и(или) опираются на стандартную систему идентификации MS Windows — Active Directory (AD).
Помимо разграничения прав пользователей, используются возможности архивации имеющихся баз данных, проводимые с регламентируемой частотой. Кроме того, обычно, используется аппаратное дублирование данных («зеркальная копия») и стандартные системы шифрования данных.
При разработке единого банка данных следует уделить внимание аппаратной части проекта, желательными будут: выделение отдельного сервера для хранения единого банка данных; установка сервера в специализированном помещении (серверной), с повышенной безопасностью и ограниченным доступом; поддержание работоспособности сервера и сетей доступа к серверу пользователей информации.
С учетом важности подобного проекта, не лишним будет разработка регламента по ограничению доступа и резервному копированию информации.
Администрирование системы
Основные задачи специалиста-администратора подобной системы рассмотрены в параграфе «Аудит базы данных». Однако не уточненными остались требования, предъявляемые к профессиональным навыкам такого специалиста (ов). Основные из них:
Заключение
В статье были рассмотрены основные аспекты, на которые следует обратить внимание при создании единого банка данных добывающей компании. Конечно, в рамках конкретных компаний эти задачи могут быть изменены. Однако одной из важнейших задач стоит признать разработку правил и регламентов. Использование любых современных систем не может быть достаточно эффективным при отсутствии грамотных административных решений. При возникновении задачи создания единого банка информации компании, правильным будет предварительно оценить имеющуюся схему бизнес-процессов.
На практике нередко проект по созданию единого банка горно-геологической информации компании включает в себя (или идет параллельно) разработку регламентов и правил работы с информацией.
1. П.В. Васильев «Развитие горно-геологических информационных систем». Информационный бюллетень. ГИС ассоциация, — 1999 — № 2(19).
2. С.С. Серый, В.А. Дунаев, А.В. Герасимов «Современные технологии геологомаркшейдерского обеспечения горного производства». Горный журнал. — 2010 — № 7
3. О.В. Альмендингер «Комплексный подход», Глобус. — 2010 — №3(11)
4. М.М. Столяров «Качество данных», Глобус — 2010 — №4(12)
5. Aibhe Goodbody, «The buyer`s guide to dispatching», Mining Magazine, January–February 2013
Опубликовано в журнале «Золото и технологии», № 1 (23)/март 2014 г.
Суть вопроса
Основные проблемы связаны с необходимостью получения актуальной и полной информации с производственных площадок. Зачастую же головной офис (управляющая компания) получает разнообразный набор данных (иногда в различных форматах и в не унифицированной форме). При этом актуальность и полнота получаемых данных не всегда соответствует внутренним требованиям. Это вызывает известные сложности в обработке и интерпретации информации, оценке существующего положения, аудите активов компании.
Причиной служит набор различных факторов, включая различную техническую оснащенность производственных площадок, отсутствие единого регламента сбора передачи данных, использование устаревших способов хранения и объединения информации и т.д.
Сбор и проверка данных
В большинстве случаев на каждом предприятии применяется своя устоявшаяся методика сбора и документации геологической информации. Однако, учитывая постановку задачи, необходимо обратить внимание на важность разработки единого регламента в рамках всей компании. Это позволит унифицировать сбор информации, привести к единому виду передаваемые файлы, уменьшить количество ошибок. Для создания единого банка данных полезными будут следующие шаги:
- разработка единого регламента ведения документации горно-геологических данных;
- разработка типовых форм занесения первичной информации;
- разработка типовых кодировок (литокоды, типы работы, типы выработок и т.д.);
- разработка уникальных ключей идентификаторов (номера выработок, проб и т.д. с уникальной привязкой);
- разработка типовых правил проверки информации, с учетом часто встречающихся ошибок;
- разработка правил приема/передачи информации между подразделениями и службами;
- разработка структуры единой и локальных баз данных с учетом связей между ними, обязательных к заполнению полей и уникальных «ключей» идентификации.
Аудит базы данных
При создании единого банка данных, хранящего в себе первичную информацию, получаемую с различных производственных площадок, одной из главных задач является аудит получаемой информации. Зачастую, даже в крупных компаниях, выполнение этой работы «ложится на плечи» одногодвух специалистов. Рассмотрим, основные обязанности, такого специалиста (ов):
- проверка полноты получаемых локальных баз данных;
- выявление ошибок в локальных базах данных;
- занесение (или аудит) данных прошлых лет;
- администрирование единого банка данных;
- администрирование и поддержание архива неструктурированных данных (фотографии, отчеты и т.п.);
- сведение в единый банк информации локальных баз данных (если эта функция не автоматизирована);
- администрирование доступа к банку данных пользователей информации;
- внесение изменений в структуры и правила, применяемые в локальных базах данных.
На практике, выполнение даже указанных задач занимает бо'льшую часть рабочего времени специалистов. Вопрос оптимизации процессов аудита информации является приоритетным при создании единого банка данных на предприятии.
Решение данной задачи существенно облегчается при выполнении пунктов, описанных в параграфе «Сбор и проверка данных». Дополнительно необходимо разработать структуру хранилища несвязанных данных (фото, отчеты и т.п.) с их привязкой к единому банку информации, правила администрирования доступа к банку пользователей информации и т.п.
Использование единого банка данных
Большинство современных систем хранения информации, а также специализированных решений для управления данными, имеют функции ограничения доступа и распределения прав пользователей.
Несмотря на наличие подобных возможностей в широко используемых СУБД (MS SQL Server, Oracle и др.), удобным представляется использование специализированных программ по управлению данными для специалистов горно-геологического сектора.
В большинстве случаев пользователи информации не имеют специализированных навыков по работе с СУБД. А, зачастую, и специалисты-администраторы баз данных приобретают данные навыки самостоятельно. В таких условиях использование систем управления данными, имеющих интуитивно понятный интерфейс, легко администрируемых и имеющих набор специализированных инструментов (первичная обработка и интерпретация данных, отчетность и т.д.) становится приоритетным.
В рамках единого банка данных важным является определение прав пользователя на доступ к различным видам информации и работе с ней (занесение, изменение, чтение). Подобное ограничение не только защищает информацию от несанкционированного доступа, но и облегчает пользователю поиск необходимых данных (давая доступ лишь к необходимым пользователю рабочим данным).
Одним из основных направлений, использующих единый банк данных, является интерпретация данных с целью последующего построения геологических моделей, подсчета запасов, проектирования и т.д. (чаще всего с использованием различных горно-геологических информационных систем — ГГИС). Основные СУБД и решения для управления базами данных позволяют формировать их в том виде, который наиболее удобен для дальнейшей обработки в ГГИС системах.
Единый банк данных позволяет избежать ошибок связанных с различием в информации, используемой специалистами (или службами, производственными площадками) и актуальности данных. Чаще всего такие ошибки возникают при использовании файловых «баз данных» или при отсутствии четких правил приема/ передачи информации.
Отчетность
Задачи создания отчетов, характерны для всех этапов сбора, проверки и использования данных.
Многообразие отчетов и их внутреннее содержание требует возможности быстрой навигации по данным, сведе'ния различных данных в единые формы, фильтрации и выборке информации.
При наличии большого количества файловых архивов не связанных или требующих дополнительной обработки, задачи создания отчетности значительно усложняются.
При разработке единого банка данных необходимо учитывать требования к отчетным формам для задания уникальных идентификаторов и установки связей между данными, что в дальнейшем существенно облегчает создание отчетов.
В настоящее время наличие специализированных систем по управлению базами горно-геологических данных позволяет заранее разрабатывать регламентированные отчетные формы, что превращает процесс получения отчета в нажатие 1–2 кнопок.
Использование единого банка данных расширяет возможность аудита информации на каждом этапе занесения/использования информации, возможно получения отчетов по данным (например: наличие данных, полнота данных, ошибки в данных, значения в данных, превышающие пороговые, отчеты по использованию данных).
Наличие инструментария по отслеживанию изменений в данных (logжурнал) является дополнительным плюсом использования систем управления базами данных.
Безопасность
Как было сказано выше, разграничение прав доступа к информации является одной из важнейших функции СУБД и специализированных приложений по работе с базами данных. В основном функции ограничения контролируются исходя из вводимого логина/пароля и(или) опираются на стандартную систему идентификации MS Windows — Active Directory (AD).
Помимо разграничения прав пользователей, используются возможности архивации имеющихся баз данных, проводимые с регламентируемой частотой. Кроме того, обычно, используется аппаратное дублирование данных («зеркальная копия») и стандартные системы шифрования данных.
При разработке единого банка данных следует уделить внимание аппаратной части проекта, желательными будут: выделение отдельного сервера для хранения единого банка данных; установка сервера в специализированном помещении (серверной), с повышенной безопасностью и ограниченным доступом; поддержание работоспособности сервера и сетей доступа к серверу пользователей информации.
С учетом важности подобного проекта, не лишним будет разработка регламента по ограничению доступа и резервному копированию информации.
Администрирование системы
Основные задачи специалиста-администратора подобной системы рассмотрены в параграфе «Аудит базы данных». Однако не уточненными остались требования, предъявляемые к профессиональным навыкам такого специалиста (ов). Основные из них:
- знание всего процесса получения/ передачи информации;
- понимание основных задач специалистов использующих и передающих первичные данные;
- знание правил построения реляционных и объектно-ориентированных баз данных;
- знание типовых ошибок в данных и понимание причин их возникновения;
- навыки администрирования систем СУБД;
- знание основ языка SQL и программирования (желательно).
Заключение
В статье были рассмотрены основные аспекты, на которые следует обратить внимание при создании единого банка данных добывающей компании. Конечно, в рамках конкретных компаний эти задачи могут быть изменены. Однако одной из важнейших задач стоит признать разработку правил и регламентов. Использование любых современных систем не может быть достаточно эффективным при отсутствии грамотных административных решений. При возникновении задачи создания единого банка информации компании, правильным будет предварительно оценить имеющуюся схему бизнес-процессов.
На практике нередко проект по созданию единого банка горно-геологической информации компании включает в себя (или идет параллельно) разработку регламентов и правил работы с информацией.
1. П.В. Васильев «Развитие горно-геологических информационных систем». Информационный бюллетень. ГИС ассоциация, — 1999 — № 2(19).
2. С.С. Серый, В.А. Дунаев, А.В. Герасимов «Современные технологии геологомаркшейдерского обеспечения горного производства». Горный журнал. — 2010 — № 7
3. О.В. Альмендингер «Комплексный подход», Глобус. — 2010 — №3(11)
4. М.М. Столяров «Качество данных», Глобус — 2010 — №4(12)
5. Aibhe Goodbody, «The buyer`s guide to dispatching», Mining Magazine, January–February 2013
Опубликовано в журнале «Золото и технологии», № 1 (23)/март 2014 г.