README.md

Nedra.Data PLATFORM создавалась как инструмент для решения основных проблем, с которыми ежедневно сталкиваются инженеры, интерпретаторы, руководители подразделений и все те специалисты, чья деятельность связана с обработкой больших объёмов технической информации.

Такая работа — это всегда долгий и трудозатратный процесс. Здесь и разрозненная структура данных, и несовместимость с другим ПО, и отсутствие коммуникации между кросс-функциональными командами, и многое другое. Nedra.Data PLATFORM учитывает эти проблемы и значительно упрощает существующие процессы.

Не секрет, что на рынке уже представлены цифровые инструменты для сбора и обработки данных, но, как правило, они нацелены на решение задач в более узких предметных областях. Кроме того, подобные инструменты не найти в открытом доступе.

Nedra.Data PLATFORM – универсальная платформа для управления жизненным циклом E&P данных и формирования информационной основы для кросс-функциональных цифровых решений на основе открытых стандартов.

Более подробную информацию о функциональности платформы вы можете получить в документе Руководство по использованию v.2.0

Nedra.Data PLATFORM распространяется по модели открытого ПО (лицензия Apache License 2.0)

Системные требования

Для запуска платформы потребуется развернутый кластер KUBERNETES 1.20+, со следующими доступными ресурсами:

*Установка helm чартов производится посредствам утилиты HELMFILE

Минимальные системные требования

RAM: 48 gb
Volumes: 250 gb
СPU: 16

Рекомендуемые системные требования

RAM: 96 gb
Volumes: 500 gb
СPU: 32

Установка

• Установка инфраструктурных компонентов Задать значения переменных в файле helmfile/env.yaml

helmfile apply -f helmfile/helmfile-infra.yaml

• Если требуется установка keycloak

helmfile apply -f helmfile/helmfile-keycloak.yaml

• Генерация токена Datahub (через UI)

• Прописать токен Datahub в файл helmfile/env-ndp.yaml

datahubToken:

• Прописать токен Datahub в файл helmfile/env-ndp.yaml Настройка keycloak (создать realm)

• Прописать токен Datahub в файл helmfile/env-ndp.yaml Прописать созданные ключи и адрес кейклока в файл helmfile/env-ndp.yaml

keycloakHost:
keycloakSecretKey:
keycloakSecretKeyProxy:
keycloakAdminSecretKey:

• Прописать токен Datahub в файл helmfile/env-ndp.yaml Установка NedraDataPlatform

helmfile apply -f helmfile/helmfile-ndp.yaml

Удаление

helmfile destroy -f helmfile/helmfile-ndp.yaml
helmfile destroy -f helmfile/helmfile-keycloak.yaml
helmfile destroy -f helmfile/helmfile-infra.yaml
kubectl delete --all jobs,pvc --namespace=<NAMESPACE>

Настройка Keycloak

• Создать новый Realm (Create Realm)

• В графе Realm name укажите имя Realm

• На вкладке Clients нажатием на конпку Create client инициируйте создание 2-х новых клиентов.

• Заполнить параметры 1го клиента

Client type - OpenID Connect  
Client ID - ndr-data-platforme-proxy-frontend
Name - ndr-data-platforme-proxy-frontend
Description - Заполнить
После этого нажмите кнопку Next

• Сохранить 1-го клиента нажатием кнопки Save

• Заполнить параметры 2-го клиента :

Client type - OpenID Connect
Client ID - ndr-data-platforme-proxy-frontend
Name - ndr-data-platforme-proxy-frontend
Description - Заполнить
После этого нажмите кнопку Next

• Сохранить параметры 2го клиента нажатием кнопки Save

Добавить настройку клиентов :
Valid redirect - Заполнить
Valid post logout redirect URLs - Заполнить
Web origins - Заполнить
Client authentication - Положение ON

• Берем для 1-ого клинета access токен на вкладке credentinals client secret и прописываем значения в файл env-ndp.yaml

keycloakBackendSecretId
keycloakBackendSecretKey

• Берем для 2-ого клинета access токен на вкладке credentinals client secret и прописываем значения в файл env-ndp.yaml

keycloakProxySecretKey
keycloakProxySecretId

Настройка администратора в Keycloak

• На странице Clients вкладка Clients list нажимаем на строчку admin_cli

Valid redirect URLs - *
Valid post logout redirect URLs - +
Client authentication - Положение ON

• На странице Client details Берем access токен администратора в графе client_secret и прописываем значения в файл env-ndp.yaml

keycloakAdminSecretKey

Заводим пользователей системы NedraDataPlatform

• На странице Users вкладка User list нажимаем на кнопку Create new users

• Задаем информацию о пользователе

• Сохраняем пользователя нажатием на кнопку Create

• Задаем пароль на вкладке credentinal для данного пользователя нажатием на кнопку Set password

• Задаем пароль для этого пользователя

Генерация токена DataHub

• Нажимаем кнопку настройки “Manage your DataHub settings”

• На странице settings Нажать Generate new token , тем самаым инициируем создание токена

• Заполнить параметры генерации токена

Name - ndp-backend
Description - Token for access NedraDataPlatform

• Инициируем создание токена нажатием на кнопку Create

• Из графы Token cкопировать созданный токен и прописать в файл env-ndp.yaml

datahubToken
Описание

Основной репозиторий продукта Nedra.Data PLATFORM – первой цифровой платформы данных Upstream в России, построенной на открытом стеке.

Конвейеры
0 успешных
0 с ошибкой