PowerFlex: установка и настройка Oracle Linux KVM на базе PowerFlex
Summary: В этом руководстве по эталонной архитектуре описывается установка и настройка Oracle Linux KVM на платформе Dell PowerFlex.
Instructions
Полную документацию см. в разделе Развертывание Oracle Real Application Clusters | Установка и настройка Oracle Linux KVM на Dell PowerFlex | Информационный центр Dell Technologies
Развертывание Oracle Real Application Clusters
Логическая архитектура
В этом разделе представлен обзор архитектуры и шаги, которые необходимо выполнить при настройке 3-узловой базы данных Oracle Real Application Clusters (RAC) с помощью Oracle Linux Virtualization Manager в двухуровневой системе PowerFlex. Этот пример приведен только в качестве примера, чтобы проиллюстрировать, как PowerFlex может позволить компании использовать среду Oracle Linux KVM с Oracle RAC. Размеры групп дисков ASM и базы данных произвольны. Тем не менее, передовые подходы включены и применимы к любому развертыванию этого типа в рабочей среде.
На следующем рисунке показано логическое представление конфигурации с 3 узлами,
Рис. 28. Логическая архитектура
Сетевая архитектура
В двухуровневой системе PowerFlex SDC устанавливается на хосте только для вычислений (Oracle Linux KVM), а компоненты MDM и SDS устанавливаются на внутренних узлах, предназначенных только для хранения. SDS агрегирует и обслуживает необработанное локальное хранилище на каждом узле и совместно использует это хранилище как часть кластера PowerFlex. Единый пул хранения данных создается с использованием всех дисков на каждом узле в защищенных доменах; затем выделяются тома из пула хранения данных и представляются вычислительным хостам, которые Oracle Linux Virtualization Manager использует в качестве доменов хранения. В домене хранения данных выделяются диски соответствующего размера в соответствии с требованиями базы данных Oracle RAC ASM disk group, включая тома для данных, ведение журнала повторов, диск для голосования и область восстановления флэш-памяти. Тома сопоставляются и совместно используются между виртуальными машинами, а затем используются ASM для создания групп. В то время как Oracle Grid и программное обеспечение базы данных устанавливаются независимо на каждой виртуальной машине, сама база данных Oracle RAC построена на ASM и, таким образом, доступна для всех узлов.
Для этого решения Oracle Linux KVM в лаборатории использовались следующие сети и VLAN:
Таблица 3. Сведения о сети PowerFlex на уровне хоста
| Имя сети | Описание |
|---|---|
| Связка 0 (p2p1, p3p1) | Управление и трафик ВМ |
| Связка 1 (p3p2, p2p2) | Трафик данных PowerFlex (SDS и SDC) |
Таблица 4. Сведения о сети Oracle Linux KVM на уровне ВМ
| Имя сети | Сеть VLAN | Описание |
|---|---|---|
| ovirtmgmt | 105 | Сеть управления |
| Приватныйvlan106 | 106 | Частная сеть VLAN для частного межсоединения Oracle |
| VM_Network | 100 | Клиентская сеть Oracle |
Тегирование VLAN
Oracle Linux Virtualization Manager поддерживает добавление нескольких логических сетей к физическим сетевым адаптерам на узле Oracle Linux KVM, включая сети с тегами VLAN. Поскольку сети VLAN являются важным компонентом архитектуры PowerFlex, здесь описаны шаги по добавлению новой логической сети с тегами VLAN для межсоединения Oracle.
-
Перейдите на экран Network -> Networks в Oracle Linux Virtualization Manager и нажмите New на рисунке 29.

Рис. 29. Логические сетиВведите следующую информацию на рисунке 30.
- Имя
- Описание
- Метка сети
- Установите флажок Enable VLAN tagging и добавьте значение VLAN
Оставьте кластер по умолчанию (он подключается автоматически), а профили vNIC (имя по умолчанию соответствует имени сети).

Рис. 30. Новая логическая сеть -
После создания перейдите в раздел «Сеть —> сети » и нажмите на созданную гиперссылку для сети vlan-106 .
-
Перейдите на вкладку Hosts, выделите один из неподключенных хостов и нажмите Setup Host Networks на рисунке 31.

Рисунок 31. Назначение хостов VLAN-106 -
Откроется диалоговое окно Setup Host Networks . Новая логическая сеть появится с правой стороны. Нажмите на сеть и перетащите ее на соответствующую физическую сетевую плату, как показано на рис. 32. Как и в данном случае, одному интерфейсу может быть назначено несколько логических сетей.

Рис. 32. Назначение логической сети интерфейсу -
Затем нажмите на значок карандаша в углу логической сети. Это позволяет пользователю назначить IP-адрес (при необходимости). Выберите подходящий протокол загрузки, добавьте адрес, если это необходимо, и нажмите OK на рисунке 33. Затем Oracle Linux Virtualization Manager настраивает сеть на хосте.

Рис. 33. Назначение протокола загрузки и IP-адресаЛогическая сеть создана и настроена на рисунке 34.

Рис. 34. Присвоенный IP-адрес
Конфигурация Oracle RAC
В следующем разделе приведены подробные сведения о настройке Oracle Linux KVM и установке 3-узловой базы данных Oracle RAC 21c.
Сведения о конфигурации аппаратного и программного обеспечения
В следующей таблице описаны аппаратные и программные компоненты инфраструктуры, используемой для решения. Узлы PowerFlex (только для хранения данных) и узлы, используемые для Oracle Linux KVM (только для вычислений), одинаковы:
Таблица 5. Настройка аппаратного и программного обеспечения
| Компоненты | Исходный домен |
|---|---|
| Модель сервера | Dell R650 |
| Количество узлов только для вычислений | 3. |
| Количество узлов, предназначенных только для хранения данных | 4 |
| CPU | ® Процессор Intel Xeon® Gold 6336Y @ 2.40 ГГц |
| Компоненты | Исходный домен |
|---|---|
| Разъемы и жилы | Два разъема на 24 ядра |
| Технология Hyper-Threading | Enabled |
| Память | 512 Гбайт на хост |
| Хранилище | 2 x 447,13 Гбайт (твердотельный накопитель SATA) 10 x 1490,42 Гбайт (твердотельный накопитель SAS) |
| PCIe | Адаптер Mellanox ConnectX-5 EN 25 GbE SFP28 (два порта) |
| Модули NVDIMM | 2 x 16 Гбайт, 2933 МТ/С, NVDIMM-N DDR-4 |
| PowerFlex | R4_6 |
| PowerFlex Manager | Версия 4.6.0 |
| Oracle Linux Virtualization Manager | 4.5.4-1.0.31.el8 |
| Oracle Linux | Выпуск 8, обновление 9 |
| Версия базы данных Oracle | 21.3.0.0.0 |
| ОС ВМ — Oracle Linux | Выпуск 8, обновление 9 |
| Количество ВМ | 3. |
| Конфигурация виртуальной машины | 16 виртуальных ЦП, 24 Гбайт памяти |
| Узлы виртуальных машин | Остин170, Остин171, Остин172 |
| Имя базы данных | ОРКЛ |
| Имена экземпляров | orcl1, orcl2, orcl3 |
| Группы дисков ASM | CONFIG, DATA, REDO, FRA |
Конфигурация доступа
Одновременно с установкой Oracle Linux Virtualization Manager на отдельном хосте пользователям необходимо подготовить KVM-хосты Oracle Linux, которые также будут использоваться в качестве вычислительных узлов PowerFlex.
Выполните следующие шаги, чтобы установить хост Oracle Linux KVM для среды Oracle RAC:
- Установите ОС Oracle Linux 8.9 на каждом из вычислительных хостов.
- Настройте сеть управления для каждого хоста. Назначьте IP-адрес каждому хосту.
- Настройка сети для поддержки подключения SDC к PowerFlex.
- Выполните следующие команды на каждом из хостов, чтобы подготовить хост к получению команд от oVirt Engine:
dnf config-manager --enable ol8_baseos_latest dnf install oracle-ovirt-release-45-el8 -y dnf clean all dnf repolist
Oracle Linux Virtualization Manager
Чтобы установить Oracle Linux Virtualization Manager, выполните следующие действия.
- Создайте виртуальную машину и установите ОС Oracle Linux 8.9 с помощью среды Virtualization Host Base Environment. Выбор другой базы может привести к проблемам с реализацией. Эта база не поставляется с пользовательским интерфейсом, но рабочий стол Gnome можно добавить после установки, если это необходимо.
- Установите пакет oVirt Engine и установите движок, выполнив следующие команды:
dnf config-manager --enable ol8_baseos_latest dnf install oracle-ovirt-release-45-el8 -y dnf clean all dnf repolist dnf install ovirt-engine
- Выполните настройку модуля для установки Oracle Linux Virtualization Manager.
engine-setup
- После завершения установки пользователю предоставляется URL-адрес для доступа к диспетчеру виртуализации, который представляет собой полностью определенное доменное имя хоста.
Домены хранения данных для ASM
В следующей таблице приведены сведения о доменах хранения, созданных в PowerFlex и сопоставленных с модулем Oracle Linux KVM, необходимым для дисков Oracle ASM. Размер томов PowerFlex должен быть в 8 раз.
Таблица 6. Домены хранения данных, используемые для базы данных Oracle RAC
| Домен хранения данных | Размер | Описание |
|---|---|---|
| Oracle_Homes | 504 ГБ | Используется для файловой системы ОС для виртуальных машин и программного обеспечения Oracle |
| ORA_CONFIG | 56 Гбайт | Используется для группы дисков CONFIG ASM |
| ORA_REDO_1 | 56 Гбайт | Будет использоваться для группы дисков REDO ASM |
| ORA_REDO_2 | 56 Гбайт | Будет использоваться для группы дисков REDO ASM |
| ORA_REDO_3 | 56 Гбайт | Будет использоваться для группы дисков REDO ASM |
| ORA_DATA_1 | 504 ГБ | Используется для группы дисков DATA ASM |
| ORA_DATA_2 | 504 ГБ | Используется для группы дисков DATA ASM |
| ORA_DATA_3 | 504 ГБ | Используется для группы дисков DATA ASM |
| ORA_FRA_1 | 504 ГБ | Для группы дисков FRA ASM |
| ORA_FRA_2 | 504 ГБ | Для группы дисков FRA ASM |
| ORA_FRA_3 | 504 ГБ | Для группы дисков FRA ASM |
Конфигурация виртуальной машины
Для настройки 3-узловой базы данных Oracle RAC с Oracle Linux Virtualization Manager, работающей на PowerFlex, в данной конфигурации использовались следующие шаги.
-
Создание виртуальных машин, по одной виртуальной машине на хост. Установите ОС Oracle Linux 8.9.
- Создайте в Oracle_Homes 3 виртуальных диска по 100 Гбайт, которые будут использоваться для установки ОС для файловой системы виртуальной машины, по одному для каждой виртуальной машины.
- Эти диски необходимо сделать «загрузочными»

Рис. 35. Диск делается загрузочным для установки ОС -
Установите ОС Oracle Linux 8.9 на каждой виртуальной машине и назначьте IP-адреса для каждой виртуальной машины. Установка может быть в базовой средесервера с графическим интерфейсом пользователя или сервера.
-
Создайте необходимые диски из домена хранения, необходимые для групп дисков ASM DATA, OCR, MGMT REDO и FRA.
Таблица 7. Диски ASM из доменов хранения
Группы дисков ASM Размер Из домена хранения КОНФИГУРАЦИЯ 1 x ~50 Гбайт ORA_CONFIG «OCR». 3 x ~50 Гбайт ORA_REDO_1, ORA_REDO_2, ORA_REDO_3 DATA 3 x ~500 Гбайт ORA_DATA_1, ORA_ ДАННЫЕ _2, ORA_ ДАННЫЕ _3 FRA 3 x ~500 Гбайт ORA_FRA_1, ORA_ FRA _2, ORA_ FRA _3 -
Подключите диски ASM ко всем виртуальным машинам, сделав их общими.

Рис. 36. Диски ASM становятся общими для установки базы данных Oracle RAC -
На выбор доступны три варианта интерфейса:
- Интерфейс IDE
Standard для подключения к устройствам хранения данных. С точки зрения производительности он немного медленнее, чем VirtIO или VirtIO-SCSI - VirtIO
Паравиртуализированный драйвер обеспечивает повышенную производительность ввода-вывода по сравнению с эмулируемыми устройствами, например IDE, за счет оптимизации координации и взаимодействия между виртуальной машиной и гипервизором. - VirtIO-SCSI
Новое паравиртуализированное устройство контроллера SCSI. Этот драйвер предлагает функциональность, аналогичную функциям устройств virtIO, но с некоторыми дополнительными улучшениями, такими как улучшенная масштабируемость, стандартный набор команд и транзит устройств SCSI. В частности, она поддерживает добавление сотен устройств и присвоение имен этим устройствам с использованием стандартной схемы именования устройств SCSI.
Примечание. В лабораторной конфигурации использовались устройства VirtIO-SCSI, поскольку это рекомендуется для повышения производительности ввода-вывода. - Интерфейс IDE
-
Dell Technologies рекомендует выбрать оптимизацию высокой производительности для виртуальных машин (ВМ). Таким образом, виртуальные машины работают с метриками производительности, максимально приближенными к «голому». Если выбрана высокая производительность, виртуальная машина настраивается с помощью набора автоматических и рекомендуемых ручных настроек для обеспечения максимальной эффективности.
Примечание. Дополнительные сведения о параметрах высокой производительности см. в разделе Настройка высокопроизводительных виртуальных машин.
Рис. 37. Конфигурация виртуальных машин, демонстрирующая высокую производительность -
Настройте дополнительные сети, например межсоединение для Oracle RAC.

Рисунок 38. Дополнительная сеть для межсоединения Oracle -
Отключите автономный режим для каждой виртуальной машины для оптимизации. Пользователи могут настроить виртуальную машину в автономном режиме, когда нет необходимости обращаться к виртуальной машине с помощью графической консоли. При отключении автономного режима виртуальная машина работает без графических и видеоустройств. Это полезно в ситуациях, когда ресурсы хоста ограничены.

Рисунок 39. Отключение автономного режима для виртуальной машины -
Запустите виртуальную машину на определенном хосте в кластере, чтобы виртуальные машины Oracle RAC были распределены по хостам в кластере Oracle Linux KVM и соответствовали требованиям к закреплению ЦП.

Рисунок 40. Выбор виртуальной машины для запуска на определенном хосте в кластере -
Установите программное обеспечение Oracle Grid Infrastructure and Database 21c и создайте базу данных.
Передовые практики
Ниже приведены некоторые рекомендации по использованию Oracle RAC на ASM с PowerFlex и Oracle Linux KVM.
- По возможности используйте разные группы дисков ASM для каждой функции базы данных. Группы должны использовать внешнее резервирование. Это обеспечивает большую гибкость.
- ДАННЫЕ для данных
- REDO для журналов повторов
- FRA для архивных журналов
- КОНФИГ для диска для голосования
- Используйте несколько доменов хранения для каждой группы дисков ASM, каждый из которых занимает пространство, по одному общему виртуальному диску. Это упрощает увеличение или уменьшение групп дисков ASM и обеспечивает больше параллелизма.
- На каждой виртуальной машине общие диски должны принадлежать oracle с режимом разрешений 0660.
- Члены группы дисков ASM должны иметь одинаковую емкость. Если устройства изначально имеют большой размер, то каждое приращение емкости в группу дисков ASM должно быть таким же большим.
- В Oracle ASM рекомендуется добавлять несколько устройств вместе для увеличения емкости группы дисков ASM, а не добавлять устройства по одному. Этот метод распределяет экстенты ASM во время ребалансировки, чтобы избежать горячих точек. Используйте размер устройства, допускающий увеличение емкости ASM, при котором в группу дисков ASM добавляется несколько устройств вместе. Каждое устройство должно быть такого же размера, как и исходное устройство.