README.md

    Nedra.Data PLATFORM создавалась как инструмент для решения основных проблем, с которыми ежедневно сталкиваются инженеры, интерпретаторы, руководители подразделений и все те специалисты, чья деятельность связана с обработкой больших объёмов технической информации.

    Такая работа — это всегда долгий и трудозатратный процесс. Здесь и разрозненная структура данных, и несовместимость с другим ПО, и отсутствие коммуникации между кросс-функциональными командами, и многое другое. Nedra.Data PLATFORM учитывает эти проблемы и значительно упрощает существующие процессы.

    Не секрет, что на рынке уже представлены цифровые инструменты для сбора и обработки данных, но, как правило, они нацелены на решение задач в более узких предметных областях. Кроме того, подобные инструменты не найти в открытом доступе.

    Nedra.Data PLATFORM – универсальная платформа для управления жизненным циклом E&P данных и формирования информационной основы для кросс-функциональных цифровых решений на основе открытых стандартов.

    Более подробную информацию о функциональности платформы вы можете получить в документе Руководство по использованию v.2.0

    Nedra.Data PLATFORM распространяется по модели открытого ПО (лицензия Apache License 2.0)

    Системные требования

    Для запуска платформы потребуется развернутый кластер KUBERNETES 1.20+, со следующими доступными ресурсами:

    *Установка helm чартов производится посредствам утилиты HELMFILE

    Минимальные системные требования

    RAM: 48 gb
    Volumes: 250 gb
    СPU: 16
    

    Рекомендуемые системные требования

    RAM: 96 gb
    Volumes: 500 gb
    СPU: 32
    

    Установка

    • Установка инфраструктурных компонентов Задать значения переменных в файле helmfile/env.yaml

    helmfile apply -f helmfile/helmfile-infra.yaml
    

    • Если требуется установка keycloak

    helmfile apply -f helmfile/helmfile-keycloak.yaml
    

    • Генерация токена Datahub (через UI)

    • Прописать токен Datahub в файл helmfile/env-ndp.yaml

    datahubToken:
    

    • Прописать токен Datahub в файл helmfile/env-ndp.yaml Настройка keycloak (создать realm)

    • Прописать токен Datahub в файл helmfile/env-ndp.yaml Прописать созданные ключи и адрес кейклока в файл helmfile/env-ndp.yaml

    keycloakHost:
    keycloakSecretKey:
    keycloakSecretKeyProxy:
    keycloakAdminSecretKey:
    

    • Прописать токен Datahub в файл helmfile/env-ndp.yaml Установка NedraDataPlatform

    helmfile apply -f helmfile/helmfile-ndp.yaml
    

    Удаление

    helmfile destroy -f helmfile/helmfile-ndp.yaml
    helmfile destroy -f helmfile/helmfile-keycloak.yaml
    helmfile destroy -f helmfile/helmfile-infra.yaml
    kubectl delete --all jobs,pvc --namespace=<NAMESPACE>
    

    Настройка Keycloak

    • Создать новый Realm (Create Realm)

    • В графе Realm name укажите имя Realm

    • На вкладке Clients нажатием на конпку Create client инициируйте создание 2-х новых клиентов.

    • Заполнить параметры 1го клиента

    Client type - OpenID Connect  
    Client ID - ndr-data-platforme-proxy-frontend
    Name - ndr-data-platforme-proxy-frontend
    Description - Заполнить
    После этого нажмите кнопку Next
    

    • Сохранить 1-го клиента нажатием кнопки Save

    • Заполнить параметры 2-го клиента :

    Client type - OpenID Connect
    Client ID - ndr-data-platforme-proxy-frontend
    Name - ndr-data-platforme-proxy-frontend
    Description - Заполнить
    После этого нажмите кнопку Next
    

    • Сохранить параметры 2го клиента нажатием кнопки Save

    Добавить настройку клиентов :
    Valid redirect - Заполнить
    Valid post logout redirect URLs - Заполнить
    Web origins - Заполнить
    Client authentication - Положение ON
    

    • Берем для 1-ого клинета access токен на вкладке credentinals client secret и прописываем значения в файл env-ndp.yaml

    keycloakBackendSecretId
    keycloakBackendSecretKey
    

    • Берем для 2-ого клинета access токен на вкладке credentinals client secret и прописываем значения в файл env-ndp.yaml

    keycloakProxySecretKey
    keycloakProxySecretId
    

    Настройка администратора в Keycloak

    • На странице Clients вкладка Clients list нажимаем на строчку admin_cli

    Valid redirect URLs - *
    Valid post logout redirect URLs - +
    Client authentication - Положение ON
    

    • На странице Client details Берем access токен администратора в графе client_secret и прописываем значения в файл env-ndp.yaml

    keycloakAdminSecretKey
    

    Заводим пользователей системы NedraDataPlatform

    • На странице Users вкладка User list нажимаем на кнопку Create new users

    • Задаем информацию о пользователе

    • Сохраняем пользователя нажатием на кнопку Create

    • Задаем пароль на вкладке credentinal для данного пользователя нажатием на кнопку Set password

    • Задаем пароль для этого пользователя

    Генерация токена DataHub

    • Нажимаем кнопку настройки “Manage your DataHub settings”

    • На странице settings Нажать Generate new token , тем самаым инициируем создание токена

    • Заполнить параметры генерации токена

    Name - ndp-backend
    Description - Token for access NedraDataPlatform
    

    • Инициируем создание токена нажатием на кнопку Create

    • Из графы Token cкопировать созданный токен и прописать в файл env-ndp.yaml

    datahubToken
    
    Описание

    Основной репозиторий продукта Nedra.Data PLATFORM – первой цифровой платформы данных Upstream в России, построенной на открытом стеке.

    Конвейеры
    0 успешных
    0 с ошибкой