Записки сисадмина

Или помойное ведро идей

Обзор хардварного ATAoE Target - SR1521

Недавно купил ATAoE таргеты SR-1521 у непосредственных производителей. Хотел бы поделиться впечатлениями.

ATAoE (ATA over Ethernet) - низкоуровневый протокол простого и быстрого доступа к SATA-дискам по сетям Ethernet. Он базируется непосредственно на уровне Ethernet и никаким образом не действует на уровнях TCP/IP, UDP. Таким образом, он не тратит ни процессорное время ни память на обработку пакетов и это делает его достаточно быстрым и простым (8 страниц спецификации ATAoE против 227 страниц спецификации iSCSI).

Существует обратная сторона медали - ATAoE таргеты и инициатор должны быть расположены внутри одной Ethernet сети. Иначе попросту вообще никак.

Из функций безопасности, ATAoE предполагает только фильтрацию по MAC адресам. В принципе, что-либо другое придумать сложно.

Драйверы ATAoE инициаторов доступны для платформ: Linux, Windows, MacOS X 4.10, Solaris, FreeBSD. Т.е., грубо говоря, воткнув такой таргет в свою локальную сеть, вы увидите его LUNs (экспортируемые блочные устройства) с довольно большой долей вероятности на любой популярной системе.

Девайс поставляется с 15 Hot-Swap разъемами для вставки обыкновенных SATA-винчестеров (сами винчестеры в комплект не входят).

Управление:

  • по обычной консоли (монитор/клавиатура)
  • по нуль-модемному соединению (COM-порт)
  • с соседней linux-машины непосредственно по Ethernet-консоли (CEC - Coraid Ethernet Console, нечто вроде KVM, опционально ставится пароль на соединение).

Команды управления до невозможности просты и однозначны, интуитивно понятны. Их насчитывается пара десятков.

Возможности:

  • Форм-фактор: 3U
  • Можно добавить до 15 Hot-Swap SATA винчестеров любого объема.
  • Сделать из них любое возможное количество RAID уровней: jbod,raid0,raid1,raid5,raid6,raid10, либо экспортировать все винчестеры как jbod.
  • Объявить один или несколько дисков “запасными” - в случае выхода из строя диска из избыточного массива (кроме jbod,raid0), сбойный диск автоматически заменяется запасным и включается ребилд массива. (очень понравилась эта фича)
  • Включить мониторинг SMART на каждом диске
  • Включить удаленный syslog/forward на любую машину в локальной сети.
  • Лимитировать по MAC-адресам доступ к каждому LUN
  • Смотреть состояния дисков и массивов, прогресс ребилда
  • Девайс умеет пищать и мигать в критических ситуациях с дисками :) Но как минимум звук можно отключить
  • Можно закрыть паролем CEC-консоль для доступа из Ethernet
  • Оборудован двумя встроенными гигабитными сетевыми картами с поддержкой Jumbo Frames (MTU=9000)

Неожиданно простой в установке и конфигурации. Линейная практическая скорость чтения/записи dd на отдельный винчестер составляла 46/33 Mbyte/sec.

Документ с заводскими измерениями производительности так же доступен здесь: SR Performance Analyzis

Чесно говоря, можно было и помучаться с наращением скорости записи/чтения, но у меня задача другая и в рамках этой задачи чтение с винчестера вряд ли превысит 5 Мбайт/сек при случайном позиционировании, по этому мне данных параметров хватило с головой.

К тому же всеми этими винчестерами теперь управляет GPFS, а ее скорость достигается за счет параллеризма, который не померяешь банальным dd или bonnie++.

В целом впечатления очень хорошие, купил таких штуковин целых пять и они отныне тихо жужжат в стойке:

01.08.2008 Автор admin | Кластерные системы | 7 comments

Комментарии (7) »

  1. есть два вопроса

    1. в целом есть плюсы против софтового решения?
    2. а какой там рейд стоит? а то ведь всякое бывает.

    Комментарий от airo | 2 September 2008

  2. 1. ага. устройство полностью автономно и заточено под конкретную задачу. т.е. у тебя невозникнет вопросов с МТУ на сетевой карте или мощностью на блоке питания. к тому же он умеет самостоятельно заменить сбойный диск в избыточном рейде. А в случае, если запасных дисков не осталось, дико орет.

    2. Там можно организовать любое возможное количество любых рейдов.

    Комментарий от admin | 2 September 2008

  3. по второму пункту я интересовался не тем какой вид рейда можно собрать. а какая железка это делает. родная и неизвестная по надежности или стороняя типа 3ware или areca

    Комментарий от airo | 3 September 2008

  4. там стоит система Plan9. Похоже это софтовые рейды в этой системе.

    Комментарий от admin | 3 September 2008

  5. вот это неочень. а доступ консольке plan9 имеется? ) ковырялся?

    Комментарий от airo | 3 September 2008

  6. да. либо обычная, либо консоль на уровне ethernet (CEC) с любой соседней юникс машины. т.е. TCP/IP там в принципе как такового нет. в консоли команд доступно немного. все простые и интуитивно понятные - но покрывают все потребности. есть мониторинг SMART и запись событий в удаленный (в пределах ethernet) сервер.

    дайджест по командам консоли
    http://support.coraid.com/support/sr/SR20080716.pdf

    Комментарий от admin | 3 September 2008

  7. в спецификациях присутствует строчка

    "This product includes multiple active-active AoE interfaces and multiple RAID controller functions incorporated in the Coraid firmware. It is a "hardware" RAID controller. Coraid does not specify the CPU speed or RAM size, since these are not options in this applaince."

    Комментарий от heckfy | 8 September 2008

Оставить комментарий