ESXi host has packet errors на серверах Yadro VEGMAN R220 G3

После установки ESXi 8 на новые сервера Yadro VEGMAN R220 G3, наш vRops, который мониторит состояние системы виртуализации, начал отображать сообщение об ошибке ESXi host has packet errors.

Если выполнить команду esxcli network nic list на таком хосте, то она покажет такую информацию:

vmnic4  0000:17:00.2  icen      Up            Up           10000  Full    40:a6:b7:d2:1c:6a  1500  Intel(R) Ethernet Controller E810-C for SFP
vmnic5  0000:17:00.3  icen      Up            Up           10000  Full    40:a6:b7:d2:1c:6b  1500  Intel(R) Ethernet Controller E810-C for SFP

Командой esxcli network nic stats get -n vmnic4 можно увидеть на что обращает внимание система мониторинга:

Total receive errors: 2104311
Receive length errors: 2104311


Эти счетчики с каждой секундой нарастают большими значениями.

Далее смотрим на одной из сетевых карт командой esxcli network nic get -n vmnic4 версию драйвера и прошивки. Вывод весь не показываю, только то, что важно:

Firmware Version: 4.90 0x80020ef3 1.3863.0
Version: 1.11.1.9


Как мы видим на хост вместе с ESXi ставится не самая свежая версия драйвера. Находим более новую версию, например, версию 1.15.4. Файл с драйвером называется Intel-icen_1.15.4.0-1OEM.800.1.0.20613240_24443371.zip. Ссылок тут не привожу.
После скачивание и заброса его на хост, драйвер можно установить командой esxcli software component apply -d /vmfs/volumes/<ваше имя датастора>/Intel-icen_1.15.4.0-1OEM.800.1.0.20613240_24443371.zip. После этого перезагружайте хост и ошибки на сетевой карте пропадут.

Ошибка при обновлении ESXi «Error while waiting for untar process»

Столкнулся с очередной ошибкой при установке патча VMware-ESXi-7.0U3q-23794027:

esxupdate: ERROR: esximage.Errors.InstallationError: VMware_locker_tools-light_12.3.5.22544099-23794019: Error while waiting for untar process ‘[‘/bin/tar’, ‘xzf’, ‘-‘, ‘-C’, ‘/locker/packages/’]’: Timeout (30 seconds) expired waiting for output from command ‘[‘/bin/tar’, ‘xzf’, ‘-‘, ‘-C’, ‘/locker/packages/’]’

На сайте Broadcom появилась свежая статья с описанием и решением данной проблемы. Повторять ее не вижу смысла, хотелось лишь только добавить, что после последнего шага
vsish -e set /config/VisorFS/intOpts/VisorFSPristineTardisk 1
необходимо установить проблемный vib вручную (в статье это сказано по моему не однозначно)
esxcli software vib install -v /vmfs/volumes/../VMware_locker_tools-light_12.3.5.22544099-23794019.vib
Пакет VMware_locker_tools-light_12.3.5.22544099-23794019.vib скачивается отсюда.

Ошибка «Vmkernel module necessary for this vsi call not loaded» при добавлении NFS-датастора на ESXi

Привет! Если после перезагрузки у вас на ESXi пропали датасторы или не добавляются с ошибкой
An error occurred during host configuration.
Operation failed, diagnostics report: Unable to complete Sysinfo operation. Please see the VMkernel log file for more details.: Vmkernel module necessary for this vsi call not loaded


проделайте следующие действия:

  1. Зайдите на проблемный ESXi-хост по SSH и выполните команду:
    esxcli storage nfs list если ошибка аналогичная, то это скорее все наш случай, переходим к следующим шагам
  2. Проверяем что модули nfs не загружены в ядро
    vmkload_mod -l | grep 'nfs'
  3. Загружаем модули NFS в ядро
    vmkload_mod nfs41client
    vmkload_mod nfsclient
  4. Включаем загрузку модуля при включении ESXi
    esxcfg-module -e nfs41client
    esxcfg-module -e nfsclient
  5. Выполняем команду
    esxcli storage nfs list, теперь она должна выполниться успешно. Если там есть NFS-датасторы в отключенном состоянии, то удаляем их командой esxcli storage nfs remove -v "Volume Name"
  6. Перезагружаем ESXi
    reboot
  7. После перезагрузки добавляем NFS-датасторы, ошибок теперь быть не должно.

Слетают настройки ESXi после его перезагрузки

Недавно столкнулся с такой проблемой: ставлю на ProLiant BL460c Gen9 VMware ESXi версии 6.5.0 из образа VMware-ESXi-6.5.0-Update3-18678235-HPE-Gen9plus-650.U3.10.8.0.36-Oct2021.iso. Операционная система успешно ставится, я делаю первоначальные настройки: сети, имени хоста и т.п. и после хост перезагружаю. После перезагрузки все внесённые мной настройки слетают.
Нашел KB от VMware, где описывается похожая на мою проблема, правда с более старым билдом. Начал выполнять инструкцию по этой статье, Выполняю команду на ESXi: grep storage-path-claim /var/log/sysboot.log а затем grep 'mounted.*rw' /var/run/log/vobd.log|tail -1 и нужно определить разницу времени между первым и вторым событием. В статье упоминается про несколько секунд. У меня же это время было в районе 20-30 минут. Значит продолжение этой статьи нам не подходит. Что же делать? Так как ESXi у меня поставлен был на RAID-массив, то выясняем что за массив, какая версия прошивки и драйвера в ОС у него.
С помощью команды esxcli storage san sas list узнаем название адаптера, версию его прошивки и драйвера.  У меня он оказался RAID-контроллер Smart Array P244br, версия прошивки 7.20 и версия драйвера 65.0072.0.149. Если посмотреть на VMware Compatibility Guide для этого адаптера, то увидим, что
версия прошивки у нас стоит новее, чем требуется 🙂 Делаем downgrade прошивки. Я это делаю с помощью старого isо-образа ServicePack for Proliant для G9 серверов — P35938_001_spp-2021.05.0-SPP2021050.2021_0504.129.iso. После отката прошивки пробуем делать изменения в настройках ESXi и перезагружать его — настройки сохраняются. Ура!

VMware ESX unrecoverable error. EPT misconfiguration

Столкнулись с проблемой на одном из хостов виртуализации. При миграции с него виртуальных машин на другой хост виртуальная машина с большой долей вероятности перезагружалась. В логах хоста были подобные сообщения:
Error message on <VM_Name> on <HOST_Name> in <Datacenter_Name>: VMware ESX unrecoverable error: (vcpu-2) vcpu-3:EPT misconfiguration: PA 14f11e7f8
Поддержка Vmware обратила внимание, что в логе /var/run/log/vmkernel.log упоминается постоянно одно и тоже виртуальное ядро:
2023-06-02T17:51:18.058Z cpu24:527386)WARNING: World: vm 527386: 8726: vmm0:<VM_Name>:vcpu-0:EPT misconfiguration: PA 2020eb000
2023-06-02T17:51:57.933Z cpu24:527362)WARNING: World: vm 527362: 8726: vmm6:<VM_Name>:vcpu-6:EPT misconfiguration: PA 1a53f87f8
2023-06-02T19:07:30.107Z cpu24:525206)WARNING: World: vm 525206: 8726: vmm1:<VM_Name>:vcpu-1:EPT misconfiguration: PA bf13bf80
2023-06-02T23:10:06.672Z cpu24:535256)WARNING: World: vm 535256: 8726: vmm0:<VM_Name>:vcpu-0:EPT misconfiguration: PA 80578f7f8
2023-06-02T23:11:37.296Z cpu24:535777)WARNING: World: vm 535777: 8726: vmm2:<VM_Name>:vcpu-2:EPT misconfiguration: PA 3651f558
2023-06-03T00:45:52.563Z cpu24:527569)WARNING: World: vm 527569: 8726: vmm3:<VM_Name>:vcpu-3:EPT misconfiguration: PA 14f11e7f8

Оказывается есть  KB от Vmware с аналогичной ситуацией. Что делать?
1) Меняем физически процессорные сокеты местами (если у вас конечно 2 физ. сокета) и переусаживаем планки ОЗУ. Я поменял, в логах стали ошибки уже на ядре cpu56. Значит все верно, проблема в процессоре.
2) Меняем процессор (сокет). Мы заменили и ошибка после этого пропала. Проблема решена.

Недоступность HBA-адаптера HP LPe1605 16Gb после обновления ESXi с версии 6.5 до 7.0.3, билд 21424296

Привет! Столкнулся с проблемой при обновлении некоторых  ESXi хостов до версии 7.0.3, билд 21424296. После обновления не виден HBA-адаптер HP LPe1605 16Gb и соответственно все датасторы, подключенные по оптическим линиям, перестали быть доступными. В чем же дело? Смотрим на сайте VMware какая версия драйвера HBA-адаптера поддерживается. Видим, что это версия lpfc version 14.0.169.25-5vmw. Смотрим какая версия драйвера используется для HBA-адаптера в нашем обновленном хосте командой esxcli software vib list. Видим что там более новая версия 14.0.543.0. Начинаем искать в интернете про эту  версию и находим официальную информацию. Что делать? Нам нужен vib-пакет с версией драйвера 14.0.169.25. Где взять? Заходим на сайт https://esxi-patches.v-front.de/ESXi-7.0.0.html Через поиск находим нужную версию драйвера, качаем его. Не нужно логиниться на сайт VMware под своими неработающими учетками)). Далее закидываем этот vib-пакет на ESXi-хост через WinSCP на постоянное хранилище, желательно доступное со всех других проблемных узлов. Командой esxcli software vib remove -n lpfc удаляем старый пакет драйвера. Перезагружаем хост. Далее командой esxcli software vib install -v /vmfs/volumes/<ваш датастор>/VMW_bootbank_lpfc_14.0.169.25-5vmw.703.0.35.19482537.vib ставим новый (старый) драйвер. Перезагружаемся и, вуаля, HBA-адаптер снова работает.

Ошибка в Veeam — Agent failed to process method {DataTransfer.SyncDisk}

Столкнулся с такой ошибкой — Error: Failed to open VDDK disk failed because of the following errors: Failed to open disk for read. Failed to upload disk. Agent failed to process method {DataTransfer.SyncDisk} в Veeam Backup and Replication 9.5.
Исправилось у меня легко, так как знал какие были до этого изменения — был подключен новый ESXi-сервер в кластер и не были открыты необходимые порты.
Как исправить? открыть порт 902/TCP от Veeam Proxy до VMware ESXi.