RussianLDP Рейтинг@Mail.ru
WebMoney: 
WMZ Z294115950220 
WMR R409981405661 
WME E134003968233 
YandexMoney: 
41001198119846 
E-gold:
5128052

Глава 17. Механизмы хранения

Механизмы хранения это компоненты MySQL, которые обрабатывают операции SQL для различных табличных типов. InnoDB механизм хранения общего назначения по умолчанию, Oracle рекомендует использовать это для таблиц за исключением специализированных случаев использования. Запрос CREATE TABLE в MySQL 8.0 создает таблицы InnoDB по умолчанию.

MySQL Server использует сменную архитектуру механизма хранения, которая позволяет механизмам хранения быть загруженными, не прерывая работу.

Чтобы определить который механизмы хранения Ваш сервер поддерживает, используйте запрос SHOW ENGINES . Значение в столбце Support указывает, может ли механизм использоваться. Значения YES, NO или DEFAULT указывают, что механизм доступен, не доступен или доступен и в настоящее время установлен как механизм хранения по умолчанию.

mysql> SHOW ENGINES\G
*************************** 1. row ***************************
Engine: PERFORMANCE_SCHEMA
 Support: YES
 Comment: Performance Schema
Транзакции: NO
XA: NO
  Savepoints: NO
*************************** 2. row ***************************
Engine: InnoDB
 Support: DEFAULT
 Comment: Supports Транзакции, row-level locking, and foreign keys
Транзакции: YES
XA: YES
  Savepoints: YES
*************************** 3. row ***************************
Engine: MRG_MYISAM
 Support: YES
 Comment: Collection of identical MyISAM tables
Транзакции: NO
XA: NO
  Savepoints: NO
*************************** 4. row ***************************
Engine: BLACKHOLE
 Support: YES
 Comment: /dev/null storage engine (anything you write to it disappears)
Транзакции: NO
XA: NO
  Savepoints: NO
*************************** 5. row ***************************
Engine: MyISAM
 Support: YES
 Comment: MyISAM storage engine
Транзакции: NO
XA: NO
  Savepoints: NO
...
Эта глава касается случаев использования для механизмов хранения MySQL специального назначения. Это не покрывает InnoDB или NDB, см. главу 16 и MySQL Cluster NDB 7.5. Для продвинутых пользователей это также содержит описание архитектуры механизма хранения (см. раздел 17.11).

Для информации о поддержке механизма хранения, предлагаемых в коммерческих версиях MySQL Server, см. MySQL Enterprise Server 5.7 на Web-сайте MySQL. Доступные механизмы хранения могут зависеть от версии Enterprise Server.

Для ответов на обычно задаваемые вопросы о механизмах хранения MySQL см. раздел A.2.

Поддерживаемые механизмы хранения в MySQL 8.0

  • InnoDB: Механизм хранения по умолчанию в MySQL 8.0. InnoDB транзакционно-безопасный (соответствует ACID) механизм хранения для MySQL, который имеет завершение и отмену транзакций, способности восстановления катастрофического отказа и защиту пользовательских данных. Блокировка InnoDB на уровне строки (без подъема к более грубым блокировкам степени детализации) и последовательные чтения без блокировки увеличивают многопользовательский параллелизм. InnoDB хранит пользовательские данные в кластеризируемых индексах, чтобы уменьшить ввод/вывод для общих запросов, основанных на первичных ключах. Чтобы поддержать целостность данных, InnoDB также реализует FOREIGN KEY ограничения справочной целостности. Для получения дополнительной информации о InnoDB см. главу 16.

  • MyISAM: У этих таблиц есть маленький след. Блокировка на уровне таблицы ограничивает работу в рабочих нагрузках чтения-записи, таким образом, это часто используется только для чтения или в рабочих нагрузках чтения, главным образом, в Сети и конфигурациях складирования данных.
  • Memory: Хранит все данные в RAM для быстрого доступа в среде, которая требует быстрых поисков некритических данных. Этот механизм был прежде известен как HEAP. Его случаи использования уменьшаются. InnoDB с его буферным бассейном памяти обеспечивает длительный способ сохранить больше всего или все данные в памяти, а NDBCLUSTER обеспечивает быстрые поиски значения ключа для огромных распределенных наборов данных.
  • CSV: Эти таблицы действительно текстовые файлы с отделенными запятыми значениями. Таблицы CSV позволяют Вам импортировать или выводить данные в формате CSV, обмениваться информациями со скриптами и приложениями, которые читают и пишут тот же самый формат. Поскольку таблицы CSV не индексированы, Вы, как правило, храните данные в таблицах InnoDB во время нормального функционирования, а используете таблицы CSV только во время импорта или экспорта.
  • Archive: Эти компактные, неиндексированные таблицы предназначены для хранения и получения большого количества исторических редко ссылаемых, заархивированных данных или информации безопасности.
  • Blackhole: Механизм хранения Blackhole принимает, но не хранит данные, подобно Unix-устройству /dev/null. Запросы всегда возвращают пустой набор. Эти таблицы могут использоваться в конфигурациях репликации, когда запросы DML посылают в ведомые серверы, но главный сервер не сохраняет свою собственную копию данных.
  • Merge: Позволяет MySQL DBA или разработчикам логически сгруппировать серию идентичных таблиц MyISAM и ссылаться на них, как на один объект. Хорош для среды VLDB, такой как складирование данных.
  • Federated: Предлагает способность соединить отдельные серверы MySQL, чтобы создать одну логическую базу данных из многих физических серверов. Очень хорош для распределенной среды данных.
  • Example: Этот механизм служит примером в исходном коде MySQL, который иллюстрирует, как начать писать новые механизмы хранения. Это имеет прежде всего интерес для разработчиков. Механизм хранения ничего не делает. Вы можете составить таблицы с этим механизмом, но никакие данные не могут храниться в них или получены от них.

Вы не ограничены использованием того же самого механизма хранения для всего сервера или схемы. Вы можете определить механизм хранения для любой таблицы. Например, приложение могло бы использовать главным образом InnoDB с одной CSV для того, чтобы экспортировать данные в электронную таблицу и нескольких таблиц MEMORY для временных рабочих пространств.

Выбор механизма хранения

Различные механизмы хранения, предоставленные MySQL, разработаны для различных случаев использования. Следующая таблица обеспечивает краткий обзор некоторых механизмов хранения, предоставленных MySQL:

Таблица 17.1. Обзор особенностей механизмов хранения

ОсобенностьMyISAM MemoryInnoDB ArchiveNDB
Пределы хранения256 TBRAM 64 TBНет384 EB
ТранзакцииНетНетДа НетДа
Степень детализации блокировкиТаблица ТаблицаСтрокаСтрокаСтрока
MVCCНетНетДаНет Нет
Картографические типы данныхДаНет ДаДаДа
Картографические индексыДаНет ДаНетНет
Индексы B-treeДаДаДа НетНет
Индексы T-treeНетНетНет НетДа
Индексы HashНетДаНет НетДа
Индексы Full-text searchДаНет ДаНетНет
Индексы ClusteredНетНетДа НетНет
Кэш данныхНетN/AДа НетДа
Кэш индексаДаN/AДа НетДа
Сжатые данныеДаНетДа ДаНет
Зашифрованные данныеДаДа ДаДаДа
Поддержка базы данных кластераНет НетНетНетДа
Поддержка репликацииДаДа ДаДаДа
Поддержка внешнего ключаНетНет ДаНетНет
Резервное копирование/восстановление момента времени ДаДаДаДаДа
Поддержка кэша запросаДаДа ДаДаДа
Статистика обновления для словаря данныхДа ДаДаДаДа

Поддержка InnoDB индексации геоданных доступна в MySQL 5.7.5 и выше.

InnoDB использует хеш-индекс внутренне для своего адаптивного хеша.

InnoDB Поддержка InnoDB FULLTEXT индексов доступна в MySQL 5.6.4 и выше.

Сжатые таблицы MyISAM поддержаны только, используя сжатый формат строки. Таблицы, используя сжатый формат строки MyISAM, доступны только для чтения.

Сжатые таблицы InnoDB требуют формата файла InnoDB Barracuda.

Шифрование табличного пространства данных доступно в MySQL 5.7 и выше.

17.1. Установка механизма хранения

Когда Вы составляете новую таблицу, Вы можете определить, который механизм хранения использовать, добавляя табличную опцию ENGINE в запрос CREATE TABLE:

-- ENGINE=INNODB not needed unless you have set a different
-- default storage engine.
CREATE TABLE t1 (i INT) ENGINE = INNODB;

-- Simple table definitions can be switched from one to another.
CREATE TABLE t2 (i INT) ENGINE = CSV;
CREATE TABLE t3 (i INT) ENGINE = MEMORY;
Когда Вы опускаете опцию ENGINE, механизм хранения по умолчанию используется. Это InnoDB в MySQL 8.0. Вы можете переопределить механизм по умолчанию при использовании опции --default-storage-engine при запуске сервера или задав опцию default-storage-engine в конфигурационном файле my.cnf .

Вы можете установить механизм хранения по умолчанию для текущего сеанса, устанавливая переменную default_storage_engine:

SET default_storage_engine=NDBCLUSTER;
Механизм хранения для таблиц TEMPORARY, составленных с CREATE TEMPORARY TABLE, может быть установлен отдельно от механизма для постоянных таблиц, устанавливая переменную default_tmp_storage_engine.

Чтобы преобразовать таблицу из одного механизма хранения в другой, используйте ALTER TABLE, который указывает на новый механизм:

ALTER TABLE t ENGINE = InnoDB;
См. разделы 14.1.15 и 14.1.7.

Если Вы пытаетесь использовать механизм хранения, который не собран в двоичный модуль или собран, но дезактивирован, MySQL вместо этого составляет таблицу, используя механизм хранения по умолчанию. Например, в установке релпикации Ваш главный сервер использует InnoDB для максимальной безопасности, но ведомые серверы используют другие механизмы хранения для скорости за счет длительности или параллелизма.

По умолчанию предупреждение произведено всякий раз, когда CREATE TABLE или ALTER TABLE не может использовать механизм хранения по умолчанию. Чтобы предотвратить запутывающее, непреднамеренное поведение, если желаемый механизм недоступен, включите режим SQL NO_ENGINE_SUBSTITUTION. Если желаемый механизм недоступен, эта установка производит ошибку вместо предупреждения, и таблица не будет составлена или изменена. См. раздел 6.1.8.

MySQL может сохранить таблицу, индексы и данные в одном или более файлах, в зависимости от механизма хранения. Таблица и определения столбца сохранены в словаре данных MySQL. Отдельные механизмы хранения создают любые дополнительные файлы, требуемые для таблиц, которыми они управляют. Если имя таблицы содержит специальные символы, названия табличных файлов содержат закодированные версии тех символов, как описано в разделе 10.2.3.

17.2. Механизм хранения MyISAM

MyISAM основан на более старом (и больше недоступном) механизме хранения ISAM, но есть много полезных расширений.

Таблица 17.2. Особенности механизма хранения MyISAM

Пределы хранения 256 TBТранзакции НетСтепень детализации блокировки Таблица
MVCCНет Картографические типы данных Да Индексирование геоданных Да
Индексы B-tree ДаИндексы T-treeНет Индексы HashНет
Индексы Full-text search ДаКластеризуемые индексы НетКэш данныхНет
Кэш индексов ДаСжатые данныеДа Шифрование данныхДа
Поддержка базы данных кластера НетРепликация ДаПоддержка внешнего ключа Нет
Резервное копирование/восстановление момента времениДаКэш запросов ДаСтатистика обновления для словаря данныхДа

Каждая таблица MyISAM сохранена на диске в двух файлах. У файлов есть имена, которые начинаются с имени таблицы и имеют расширение, чтобы указать на тип файла. Файл с данными имеет расширение .MYD (MYData). Индексный файл имеет расширение .MYI (MYIndex). Табличное определение сохранено в словаре данных MySQL.

Чтобы определить явно, что Вы хотите получить таблицу MyISAM, укажите на это табличной опцией ENGINE:

CREATE TABLE t (i INT) ENGINE = MYISAM;
В MySQL 8.0 обычно необходимо использовать ENGINE, чтобы определить механизм хранения MyISAM, потому что InnoDB механизм по умолчанию.

Вы можете проверить или восстановить таблицы MyISAM с помощью mysqlcheck или myisamchk . Вы можете также сжать таблицы MyISAM с myisampack , чтобы они занимали намного меньше пространства. См. разделы 5.5.3, 5.6.4 и 5.6.6.

В MySQL 8.0 механизм хранения MyISAM не оказывает поддержки разделения. Разделенные таблицы MyISAM, составленные в предыдущих версиях MySQL, не могут использоваться в MySQL 8.0. Для получения дополнительной информации см. раздел 20.6.2. Для справки по обновлению таких таблиц так, чтобы они могли использоваться в MySQL 8.0, см. раздел 2.10.1.1.

У таблиц MyISAM есть следующие характеристики:

  • Все значения данных сохранены с младшим байтом сначала. Это делает данные независимыми от операционной системы и машины. Единственные требования для двоичной мобильности: машина использует целые числа со знаком и формат IEEE floating-point. Эти требования широко используются среди господствующих машин. Совместимость на уровне двоичных кодов не может быть применимой к встроенным системам, у которых иногда есть специфические процессоры.

    Нет никакой существенной потери скорости за хранение младшего байта данных сначала: байты в строке таблицы обычно не выравниваются, и требуется немного больше обработки, чтобы считать не выровненный байт в прямом порядке, чем в обратном. Кроме того, код в сервере, который приносит значения столбцов, не срочен по сравнению с другим кодом.

  • Все числовые значения ключа сохранены со старшим байтом сначала, чтобы разрешить, лучшее сжатие индекса.
  • Большие файлы (до 63-битовой длины файла) поддержаны на файловых системах и операционных системах, которые поддерживают большие файлы.
  • Есть предел (232)2 (1.844E+19) строк в таблице MyISAM.
  • Максимальное количество индексов на таблицу MyISAM 64.

    Максимальное количество столбцов в индексе 16.

  • Максимальная длина ключа составляет 1000 байтов. Это может также быть изменено, изменяя исходный текст. Для случая ключа больше 250 байтов используется больший ключевой размер блока, чем значение по умолчанию в 1024 байта.
  • Когда строки вставлены в сортированный порядок (как тогда, когда Вы используете столбец AUTO_INCREMENT), индексное дерево разделено так, чтобы высокий узел только содержал один ключ. Это улучшает использование пространства в индексином дереве.
  • Внутренняя обработка одного столбца AUTO_INCREMENT на таблицу реализована. MyISAM автоматически обновляет этот столбец для INSERT и UPDATE. Это делает столбцы AUTO_INCREMENT быстрее (по крайней мере на 10%). Значения наверху последовательности не использованы снова, будучи удаленными. Когда столбец AUTO_INCREMENT определен как последний столбец индекса из нескольких столбцов, повторное использование значений, удаленных из вершины последовательности, действительно происходит. Значение AUTO_INCREMENT может быть сброшено с ALTER TABLE или myisamchk.
  • Строки динамического размера намного менее фрагментированы, когда смешивается удаление с обновлениями и вставками. Это сделано, автоматически комбинируя смежные удаленные блоки и расширяя блоки, если следующий удален.
  • MyISAM поддерживает параллельные вставки: Если у таблицы нет никаких свободных блоков в середине файла с данными, Вы можете INSERT новые строки в то же самое время, когда другие потоки читают из таблицы. Свободный блок может произойти в результате удаления строк или обновления строки динамической длины с большим количеством данных, чем текущее содержание. Когда все свободные блоки израсходованы (заполнены), будущие вставки снова становятся параллельными. См. раздел 9.11.3.
  • Вы можете поместить файл с данными и индексный файл в различных каталогах на различных физических устройствах, чтобы получить больше скорости с помощью опций DATA DIRECTORY и INDEX DIRECTORY в CREATE TABLE. См. раздел 14.1.15.
  • Столбцы BLOB и TEXT могут быть индексированы.
  • Значения NULL разрешены в индексированных столбцах. Это берет от 0 до 1 байта на ключ.
  • У каждого символьного столбца может быть различный набор символов. См. раздел 11.1.
  • Есть флаг в индексном файле MyISAM, который указывает, была ли таблица закрыта правильно. Если mysqld запущен с опцией --myisam-recover-options, таблицы MyISAM автоматически проверены, когда открыты и восстановлены, если таблица не была закрыта должным образом.
  • myisamchk отмечает таблицы как проверенные, если Вы выполняете его с опцией --update-state . myisamchk --fast проверяет только те таблицы, у которых нет этой метки.
  • myisamchk --analyze сохраняет статистику для частей ключей, так же как для целых ключей.
  • myisampack может упаковать столбцы BLOB и VARCHAR.

MyISAM также поддерживает следующие функции:

  • Поддержка настоящего типа VARCHAR : столбцы VARCHAR начинаются с длины, сохраненной в одном или двух байтах.

  • Таблицы с VARCHAR могут иметь фиксированную или динамическую длину строки.
  • Сумма длин столбцов VARCHAR и CHAR в таблице может составить до 64 КБ.
  • Произвольная длина ограничения UNIQUE.

Дополнительные ресурсы

17.2.1. Опции запуска MyISAM

Следующие опции mysqld могут использоваться, чтобы изменить поведение таблиц MyISAM. Для дополнительной информации см. раздел 6.1.4.

Таблица 17.3. Обзор опций и переменных MyISAM

ИмяCmd-Line Файл опцииСистемная переменная Статусная переменнаяКонтекст переменной Динамическая
bulk_insert_buffer_size ДаДаДа ОбаДа
concurrent_insertДаДаДа ГлобальныйДа
delay-key-writeДаДа ГлобальныйДа
- Переменная: delay_key_write Да ГлобальныйДа
have_rtree_keys Да ГлобальныйНет
key_buffer_sizeДаДаДа ГлобальныйДа
log-isam ДаДа
myisam-block-sizeДаДа
myisam_data_pointer_sizeДаДаДа ГлобальныйДа
myisam_max_sort_file_sizeДаДаДа ГлобальныйДа
myisam_mmap_sizeДаДаДа ГлобальныйНет
myisam-recover-optionsДаДа
- Переменная: myisam_recover_options
myisam_recover_options Да ГлобальныйНет
myisam_repair_threadsДаДаДа ОбаДа
myisam_sort_buffer_sizeДаДаДа ОбаДа
myisam_stats_methodДаДаДа ОбаДа
myisam_use_mmapДаДаДа ГлобальныйДа
skip-concurrent-insertДаДа
- Переменная: concurrent_insert
tmp_table_size ДаДаДа ОбаДа
  • --myisam-recover-options=mode

    Установить режим автоматического восстановления разрушенных таблиц MyISAM.

  • --delay-key-write=ALL

    Не сбрасывать ключевые буферы между записями для любой таблицы MyISAM.

    Если Вы делаете это, Вы не должны получить доступ к таблицам MyISAM из другой программы (от другого сервера MySQL или с myisamchk), когда таблицы используются. Это несет риски повреждения индекса. Использование --external-locking не устраняет этот риск.

Следующие системные переменные затрагивают поведение таблиц MyISAM. Для дополнительной информации см. раздел 6.1.5.

  • bulk_insert_buffer_size

    Размер кэша, используемого в оптимизации вставок оптом.

    Это предел на поток!

  • myisam_max_sort_file_size

    Максимальный размер временного файла, который MySQL разрешают использовать, обновляя индекс MyISAM (во время REPAIR TABLE, ALTER TABLE или LOAD DATA INFILE). Если размер файла больше, чем это значение, индекс создается, используя вместо этого ключевой кэш, который медленнее. Значение дано в байтах.

  • myisam_sort_buffer_size

    Установить размер буфера, используемого для восстановления таблиц.

Автоматическое восстановление активировано, если Вы запускаете mysqld с опцией --myisam-recover-options. В этом случае когда сервер открывает таблицу MyISAM, он проверяет, отмечена ли таблица как "разрушено" или не является ли переменная количества открытий для таблицы 0, и Вы выполняете сервер с внешней отключенной блокировкой. Если любое из этих условий истина, происходит следующее:

  • Сервер проверяет таблицу на ошибки.

  • Если сервер находит ошибку, он пытается сделать быстрый ремонт таблицы (с сортировкой и не обновляя файл с данными).
  • Если ремонт терпит неудачу из-за ошибки в файле с данными (например, дубликат ключа), сервер попробует еще раз, на сей раз обновляя файл с данными.
  • Если ремонт все еще терпит неудачу, сервер попытается еще раз со старым методом опции ремонта (запишет построчно не сортируя). Этот метод должен быть в состоянии восстановить любой тип ошибки и имеет низкие требования к дисковому пространству.

Если восстановление не в состоянии возвратить все строки ранее завершенных запросов, и Вы не определяли FORCE в значении опции --myisam-recover-options, автоматический ремонт прерывается с сообщением об ошибке в журнале ошибок:

Error: Couldn't repair table: test.g00pages
Если Вы определяете FORCE, вместо этого будет предупреждение:
Warning: Found 344 of 354 rows when repairing ./test/g00pages
Если автоматическое значение восстановления включает BACKUP, процесс восстановления создает файлы с названиями вида tbl_name-datetime.BAK. У Вас должен быть скрипт cron, который автоматически перемещает эти файлы из каталогов базы данных, чтобы сделать копию.

17.2.2. Необходимое пространство для ключей

Таблицы MyISAM используют индексы B-tree. Вы можете примерно вычислить размер для индексного файла как (key_length+4)/0.67, суммированный по всем ключам. Это для худшего случая, когда все ключи вставлены в сортированном порядке, и у таблицы нет никаких сжатых ключей.

Строковые индексы сжимают пробелы. Если первая часть индекса строка, префикс также сжат. Сжатие пространства делает индексный файл меньшим, чем число худшего случая, если строковый столбец имеет большой конечный пробел или есть столбец VARCHAR, который не всегда используется на всю длину. Сжатие приставки используется на ключах, которые начинаются со строки. Сжатие приставки помогает, если есть много строк с идентичной приставкой.

В таблицах MyISAM Вы можете также сжать числовые префиксы, определяя опцию PACK_KEYS=1, когда Вы составляете таблицу. Числа сохранены со старшим байтом сначала, таким образом, это помогает, когда у Вас есть много ключей целого числа, у которых есть идентичный префикс.

17.2.3. Табличные форматы хранения MyISAM

MyISAM поддерживает три различных формата хранения. Два из них, фиксрованный и динамический, выбраны автоматически в зависимости от типа столбцов, которые Вы используете. Третий, сжатый, формат может быть создан только с помощью myisampack (см. раздел 5.6.6 ).

Когда Вы используете CREATE TABLE или ALTER TABLE для таблицы, которая не имеет столбцов BLOB или TEXT, Вы можете привести формат таблицы к FIXED или DYNAMIC с опцией ROW_FORMAT.

См. раздел 14.1.15 для информации о ROW_FORMAT.

Вы можете распаковать сжатые таблицы MyISAM, используя myisamchk--unpack, см. раздел 5.6.4.

17.2.3.1. Табличные характеристики (фиксированная длина)

Статический формат значение по умолчанию для таблицы MyISAM. Это используется, когда таблица не содержит столбцов переменной длины (VARCHAR, VARBINARY, BLOB или TEXT). Каждая строка сохранена, используя постоянное число байтов.

Из трех форматов хранения MyISAM статический формат является самым простым и самым безопасным (наименьшее количество объектов). Это является также самым быстрым из форматов на диске из-за легкости, с которой строки в файле с данными могут быть найдены на диске: чтобы искать строку, основываясь на номере строки в индексе, умножьте номер строки на длину строки, чтобы вычислить позицию строки. Кроме того, просматривая таблицу, очень легко считать постоянное число строк каждым дисковым запросом.

Формат строки фиксированной длины доступен только для таблиц без столбцов BLOB или TEXT. Составление таблицы с этими столбцами с явным указанием ROW_FORMAT не будет создавать ошибку или предупреждение, спецификация формата будет проигнорирована.

У таблиц статического формата есть эти характеристики:

  • Столбцы CHAR и VARCHAR дополнены пробелами до указанной ширины столбца, хотя тип столбца не изменен. Столбцы BINARY и VARBINARY дополнены байтами 0x00.

  • Столбцы NULL требуют дополнительное пространство в строке, чтобы сделать запись, являются ли их значения NULL. Каждый столбец NULL берет один дополнительный бит, округленный к самому близкому байту.
  • Очень быстрый.
  • Легко кэшировать.
  • Легко восстановить после катастрофического отказа, потому что строки расположены в фиксированных позициях.
  • Перестройка является ненужной, если Вы не удаляете огромное число строк и хотите возвратить свободное дисковое пространство операционной системе. Чтобы сделать это, надо использовать OPTIMIZE TABLE или myisamchk -r .
  • Обычно требует большего количества дискового пространства, чем таблицы динамического формата.
  • Ожидаемая длина строки в байтах для строк статического размера вычислена, используя следующее выражение:
    Длина строки = 1 + (Сумма длин столбцов) +
    (Число столбцов NULL +
    delete_flag + 7)/8 +
    (Число столбцов переменной длины)
    
    delete_flag = 1 для таблиц со статическим форматом строки. Статические таблицы используют немного места в отчете строки для флага, который указывает, была ли строка удалена. delete_flag = 0 для динамических таблиц, потому что флаг сохранен в динамическом заголовке строки.

17.2.3.2. Динамические табличные характеристики

Динамический формат хранения используется, если таблица MyISAM содержит любые столбцы переменной длины (VARCHAR, VARBINARY, BLOB или TEXT) или если таблица была составлена с опцией ROW_FORMAT=DYNAMIC.

Динамический формат немного более сложен, чем статический формат, потому что у каждой строки есть заголовок, который указывает, какой она длины. Строка может стать фрагментированной (сохраненной в частях, состоящих из нескольких несмежных участков), когда она сделана более длинной в результате обновления.

Вы можете использовать OPTIMIZE TABLE или myisamchk -r для дефрагментации таблицы. Если у Вас есть столбцы фиксированной длины, к которым Вы получаете доступ или часто изменяете в таблице, которая также содержит некоторые столбцы переменной длины, может быть хорошей идеей переместить столбцы переменной длины в другие таблицы, чтобы избежать фрагментации.

У таблиц динамического формата есть эти характеристики:

  • Все строковые столбцы являются динамическими кроме тех, чья длина меньше четырех.

  • Каждой строке предшествует битовый массив, который указывает, какие столбцы содержат пустую строку (для строковых столбцов) или ноль (для числовых столбцов). Это не включает столбцы, которые содержат значения NULL. Если у строкового столбца есть длина 0 после удаления конечного пробела или у числового столбца есть значение 0, это отмечено в битовом массиве и не сохранено на диске. Непустые строки сохранены как байт длины плюс строковое содержание.
  • Столбцы NULL требуют дополнительного пространства в строке, чтобы сделать запись, являются ли их значения NULL. Каждый столбец NULL берет один дополнительный бит, округленный к самому близкому байту.
  • Намного меньше дискового пространства обычно требуется, чем для таблиц фиксированной длины.
  • Каждая строка использует только столько места, как требуется. Однако, если строка становится более крупной, она разделена на так много частей, как требуются, приводя к фрагментации строки. Например, если Вы обновляете строку с информацией, которая расширяет длину строки, строка становится фрагментированной. В этом случае Вам, вероятно, придется запустить OPTIMIZE TABLE или myisamchk -r время от времени, чтобы улучшить работу. Используйте myisamchk -ei , чтобы получить табличную статистику.
  • Более трудны, чем таблицы статического формата, чтобы восстановить после катастрофического отказа, потому что строки могут быть фрагментированы на многие части, а ссылки (фрагменты) могут отсутствовать.
  • Ожидаемая длина строки для строк динамического размера вычислена, используя следующее выражение:
    3 + (Число столбцов + 7)/8 +
    (Число столбцов char) +
    (Упакованный размер числовых столбцов) +
    (Длина строк) +
    (Число столбцов NULL + 7)/8
    
    Есть затраты в 6 байтов для каждой ссылки. Динамическая строка получает ссылку всякий раз, когда обновление вызывает расширение строки. Каждая новая ссылка составляет по крайней мере 20 байтов, таким образом, следующее расширение, вероятно, входит в ту же самую ссылку. В противном случае другая ссылка создается. Вы можете найти число ссылок, используя myisamchk -ed . Все ссылки могут быть удалены с OPTIMIZE TABLE или myisamchk -r.

17.2.3.3. Сжатые табличные характеристики

Сжатый формат хранения это формат только для чтения, который произведен с помощью myisampack . Сжатые таблицы могут быть рассжаты с помощью myisamchk.

У сжатых таблиц есть следующие характеристики:

  • Сжатые таблицы берут очень немного дискового пространства. Это минимизирует дисковое использование, что полезно, используя медленные диски (такие как CD-ROM).

  • Каждая строка сжата отдельно, таким образом есть очень небольшой заголовок. Заголовок для строки занимает 1-3 байта в зависимости от самой большой строки в таблице. Каждый столбец сжат по-другому. обычно есть различное дерево Хафмана для каждого столбца. Некоторые из типов сжатия:

    • Сжатие пространства суффикса.

    • Сжатие пространства префикса.
    • Числа со значением 0 сохранены, используя один бит.
    • Если у значений в столбце целого числа есть маленький диапазон, столбец сохранен, используя самый маленький тип. Например, столбец BIGINT (восемь байтов) может быть сохранен как столбец TINYINT (один байт), если все его значения находятся в диапазоне от -128 до 127.
    • Если у столбца есть только маленький набор возможных значений, тип данных преобразован в ENUM.
    • Столбец может использовать любую комбинацию предыдущих типов сжатия.

  • Может использоваться для строк фиксированной или динамической длины.

В то время как сжатая таблица только для чтения, и Вы не можете поэтому обновить или добавить строки в таблице, операции DDL (язык определения данных) все еще допустимы. Например, Вы все еще можете использовать DROP для удаления и TRUNCATE TABLE, чтобы освободить таблицу.

17.2.4. Проблемы таблиц MyISAM

Формат файла, применяемый MySQL, чтобы хранить данные был экстенсивно проверено, но всегда есть обстоятельства, которые могут заставить таблицы базы данных становиться поврежденными. Следующее обсуждение описывает, как это может произойти и как обработать ситуацию.

17.2.4.1. Поврежденные таблицы MyISAM

Даже при том, что формат таблицы MyISAM очень надежен (все изменения таблицы, сделанные запросом SQL, записаны перед его возвратом), Вы можете все еще получить поврежденные таблицы, если какое-либо из следующих событий имеет место:

  • Процесс mysqld грохнулся в середине записи.

  • Неожиданное завершение работы происходит (например, компьютер выключен).
  • Отказы аппаратных средств.
  • Вы используете внешнюю программу (такую, как myisamchk ), чтобы изменить таблицу, которая изменяется сервером в то же самое время.
  • Ошибка программного обеспечения в MySQL или MyISAM.

Типичные признаки поврежденной таблицы:

  • Вы получаете следующую ошибку, выбирая данные из таблицы:

    Incorrect key file for table: '...'. Try to repair it
    
  • Запросы не находят строки в таблице или возвращают неполные результаты.

Вы можете проверить здоровье таблицы MyISAM, используя запрос CHECK TABLE и провести ремонт поврежденной таблицы MyISAM с REPAIR TABLE. Когда mysqld не работает, Вы можете также проверить или восстановить таблицу с помощью myisamchk. См. разделы 14.7.2.2, 14.7.2.5 и 5.6.4.

Если Ваши таблицы становятся поврежденными часто, Вы должны попытаться определить, почему это происходит. Самая важная вещь состоит в том, стала ли таблица поврежденной в результате катастрофического отказа сервера. Вы можете проверить это легко, ища недавнее сообщение restarted mysqld в журнале ошибок. Если есть такое сообщение, вероятно, что табличное повреждение результат сбоя сервера. Иначе повреждение, возможно, произошло во время нормального функционирования. Это ошибка. Вы должны попытаться создать восстанавливаемый прецедент, который демонстрирует проблему. См. разделы B.5.3.3 и 26.5.

17.2.4.2. Проблемы от таблиц, не закрываемых должным образом

Каждый индексный файл MyISAM (.MYI) имеет счетчик в заголовке, который может использоваться, чтобы проверить, была ли таблица закрыта должным образом. Если Вы получаете следующее предупреждение от CHECK TABLE или myisamchk , это означает, что этот счетчик вышел из синхронизации:

clients are using or haven't closed the table properly
Это предупреждение не обязательно означает, что таблица повреждена, но Вы должны, по крайней мере, проверить таблицу.

Счетчик работает следующим образом:

  • В первый раз, когда таблица обновлена в MySQL, счетчик в заголовке индексных файлов постепенно увеличен.

  • Счетчик не изменен во время дальнейших обновлений.
  • Когда последний экземпляр таблицы закрыт (потому что FLUSH TABLES была выполнена или потому что нет места в табличном кэше), счетчик уменьшен, если таблица была обновлена в каком-либо пункте.
  • Когда Вы восстанавливаете таблицу или проверяете таблицу и все хорошо, счетчик сброшен к нолю.
  • Чтобы избежать проблем со взаимодействием с другими процессами, которые могли бы проверить таблицу, счетчик не уменьшен на завершении, если это был ноль.

Другими словами, счетчик может стать неправильным только при этих условиях:

  • Таблица MyISAM скопирована без применения LOCK TABLES и FLUSH TABLES.

  • MySQL навернулся между обновлением и финалом. Таблица может все еще быть в порядке, потому что MySQL всегда записывает все между запросами.
  • Таблица была изменена myisamchk --recover или myisamchk --update-state в то же самое время, когда это использовалось mysqld.
  • Несколько серверов mysqld используют таблицу, и один сервер выполнил REPAIR TABLE или CHECK TABLE на таблице, в то время как это использовалось другим сервером. В этой установке безопасно использовать CHECK TABLE, хотя Вы могли бы получить предупреждение от других серверов. Однако, REPAIR TABLE применяться не должен потому, что когда один сервер заменяет файл с данными новым, это неизвестно другим серверам.

    Вообще, плохая идея совместно использовать каталог данных несколькими серверами. См. раздел 6.7.

17.3. Механизм хранения MEMORY

Механизм хранения MEMORY (прежде известный как HEAP) составляет таблицы специального назначения с содержанием, которое сохранено в памяти. Поскольку данные уязвимы для катастрофических отказов, проблемы аппаратных средств или отключения электричества, эти таблицы используют в качестве временных рабочих областей или кэшей только для чтения для данных, которые вытягивают из других таблиц.other tables.

Таблица 17.4. Особенности механизма хранения MEMORY

Пределы хранения RAMТранзакции НетСтепень детализации блокировки Таблица
MVCCНет Картографические типы данныхНет Индексирование геоданных Нет
Индексы B-tree ДаИндексы T-treeНет Индексы HashДа
Индексы Full-text search НетКластеризуемые индексы НетКэш данныхN/A
Кэш индексовN/A Сжатые данныеНет Шифрование данныхДа
Поддержка базы данных кластера НетРепликация ДаПоддержка внешнего ключа Нет
Резервное копирование/восстановление момента времениДаКэш запросов ДаСтатистика обновления для словаря данныхДа

Когда использовать MEMORY или MySQL Cluster. Разработчики приложений, которые используют механизм хранения MEMORY для важных, высоконадежных или часто обновляемых данных должны рассмотреть, является ли MySQL Cluster лучшим выбором. Типичный случай использования для механизма MEMORY имеет эти характеристики:

  • Операции, вовлекающие переходные, некритические данные, такие как управление сеансом или кэширование. Когда сервер MySQL перезапускается, данные в таблицах MEMORY потеряны.

  • Хранение в памяти для быстрого доступа и низкого времени ожидания. Объем данных может разместиться полностью в памяти, не заставляя операционную систему подкачивать страницы виртуальной памяти.
  • Только для чтения или доступ к данным главным образом для чтения (ограниченные обновления).

MySQL Cluster предлагает те же самые особенности как механизм MEMORY с более высокими исполнительными уровнями и обеспечивает дополнительные функции, недоступные с MEMORY:

  • Блокировка на уровне строки и работа многих потоков.

  • Масштабируемость даже со смесями запросов, которые включают запись.
  • Дополнительная поддержанная диском работа для длительного хранения данных.
  • Работа многих узлов без единственного пункта отказа, включая доступность 99.999%.
  • Автоматическое распределение данных по узлам, разработчики приложений не должны обработать пользовательскую раздачу или решения для разделения.
  • Поддержка типов данных переменной длины (включая BLOB и TEXT), не поддержанные MEMORY .

Для отчета с более подробным сравнением механизмов хранения MEMORY и MySQL Cluster см. Scaling Web Services with MySQL Cluster: An Alternative to the MySQL Memory Storage Engine. Этот отчет включает исследование качества работы этих двух технологий и руководство, описывающее, как существующие пользователи MEMORY могут мигрировать на MySQL Cluster.

Таблицы MEMORY не могут быть разделены.

Технические характеристики

Работа MEMORY ограничена утверждением, следующим из выполнения единственного потока, и таблица блокируется, обрабатывая обновления. Это ограничивает масштабируемость, когда загрузка увеличивается, особенно для смесей запросов, которые включают запись.

Несмотря на обработку в памяти для таблиц MEMORY, они не обязательно быстрее InnoDB на занятом сервере для запросов общего назначения или при рабочей нагрузке чтения-записи. В частности таблица, заблокированная в связи с выполнением обновлений, может замедлить параллельное использование таблиц MEMORY из нескольких сеансов.

В зависимости от видов запросов, выполненных на таблицах MEMORY, Вы могли бы создать индексы как структуру данных хеша по умолчанию (для того, чтобы искать единственные значения, основанные на уникальном ключе) или структуру данных B-tree общего назначения (для всех видов запросов, вовлекающих равенство, неравенство или операторы диапазона, такие как "меньше чем" или "больше чем"). Следующие разделы иллюстрируют синтаксис для того, чтобы создать оба вида индексов.

Характеристики таблиц MEMORY

Механизм хранения MEMORY не создает файлов на диске. Табличное определение сохранено в словаре данных MySQL.

У MEMORY таблиц есть следующие характеристики:

  • Место для таблиц MEMORY выделено маленькими блоками. Таблицы используют 100% динамическое хеширование для вставок. Никакая область переполнения или дополнительное ключевое пространство не нужны. Никакое дополнительное пространство не необходимо для свободных списков. Удаленные строки помещены в связанный список и снова использованы, когда Вы вставляете новые данные в таблицу. Таблицы MEMORYтакже не имеют ни одной из проблем обычно связываемых с удалением плюс вставкой в хешированных таблицах.

  • Таблицы MEMORY используют формат хранения строки фиксированной длины. Типы переменной длины, например, VARCHAR сохранены, используя фиксированную длину.
  • Таблицы MEMORY не могут содержать столбцы BLOB или TEXT.
  • MEMORY включает поддержку столбцов AUTO_INCREMENT.
  • Таблицы не-TEMPORARY MEMORY совместно использованы всеми клиентами, точно так же как любые другие не-TEMPORARY таблицы.

DDL-операции для таблиц MEMORY

Чтобы создать таблицу MEMORY, определите пункт ENGINE=MEMORY в CREATE TABLE.

CREATE TABLE t (i INT) ENGINE = MEMORY;
Как обозначено именем механизма, таблицы MEMORY сохранены в памяти. Они используют хеш-индексы по умолчанию, которые делают их очень быстрыми для поисков единственного значения и очень полезными для того, чтобы составить временные таблицы. Однако, когда сервер закрывается, все строки, сохраненные в таблицах MEMORY, потеряны. Сами таблицы продолжают существовать, потому что их определения сохранены в словаре данных MySQL, но они пусты, когда сервер перезапускается.

Этот пример показывает, как Вы могли бы создать, использовать и удалить таблицу MEMORY:

mysql> CREATE TABLE test ENGINE=MEMORY
    -> SELECT ip, SUM(downloads) AS down
    ->        FROM log_table GROUP BY ip;
mysql> SELECT COUNT(ip),AVG(down) FROM test;
mysql> DROP TABLE test;
Максимальный размер таблиц MEMORY ограничен системной переменной max_heap_table_size , у которой есть значение по умолчанию 16 МБ. Провести в жизнь различные пределы размера для таблиц MEMORY можно, изменив значение этой переменной. Значение в действительности для CREATE TABLE, последующего ALTER TABLE или TRUNCATE TABLE, это значение, используемое для жизни таблицы. Перезапуск сервера также устанавливает максимальный размер существующих таблиц MEMORY к глобальной max_heap_table_size. Вы можете установить размер для отдельных таблиц как описано позже в этом разделе.

Индексы

Механизм хранения MEMORY поддерживает оба индекса: HASH и BTREE. Вы можете определить один или другой для данного индекса, добавляя USING:

CREATE TABLE lookup (id INT, INDEX USING HASH (id)) ENGINE = MEMORY;
CREATE TABLE lookup (id INT, INDEX USING BTREE (id)) ENGINE = MEMORY;

Таблицы MEMORY могут иметь до 64 индексов на таблицу, 16 столбцов на индексов и максимальную длину ключа 3072 байтов.

Если табличный хеш индекс имеет высокую степень ключевого дублирования (многие индексные записи содержат то же самое значение), обновления таблицы, которые затрагивают значения ключа и все удаления значительно медленнее. Степень этого замедления пропорциональна степени дублирования (или обратно пропорциональна количеству элементов). Вы можете использовать индекс BTREE, чтобы избежать этой проблемы.

У таблиц MEMORY могут быть групповые ключи. Это необычная особенность выполнения хеш-индекса.

Столбцы, которые индексированы, могут содержать значения NULL .

Создаваемые пользователем и временные таблицы

Табличное содержание MEMORY сохранено в памяти, которую совместно используют с внутренними временными таблицами, которые сервер составляет на лету, обрабатывая запросы. Однако, два типа таблиц отличаются: таблицы MEMORY не подвергаются преобразованию хранения, тогда как внутренние временные таблицы:

  • Если внутренняя временная таблица становится слишком большой, сервер автоматически преобразовывает ее в хранение на диске, как описано в разделе 9.4.4.

  • Создаваемые пользователем таблицы MEMORY никогда не преобразовываются в дисковые таблицы.

Загрузка данных

Чтобы заполнить таблицу MEMORY, когда сервер MySQL запускается, Вы можете использовать опцию --init-file. Например, Вы можете поместить запросы INSERT INTO ... SELECT или LOAD DATA INFILE в этот файл, чтобы загрузить таблицу из постоянного хранилища данных. См. разделы 6.1.4 и 14.2.6.

Таблицы MEMORY и репликация

Таблицы MEMORY становятся пустыми, когда сервер закрыт и перезапущен. Если сервер ведущее устройство, его ведомые устройства не знают, что эти таблицы стали пустыми, таким образом, Вы видите устаревший контент, если Вы выбираете данные из таблиц на ведомых устройствах. Синхронизировать таблицы MEMORY ведущего и ведомого устройств, когда таблица MEMORY используется на ведущем устройстве, можно, добавив в двоичный журнал ведущего устройства запрос DELETE, чтобы освободить таблицу на ведомых устройствах также. У ведомого устройства все еще есть устаревшие данные в таблице во время интервала между перезапуском ведущего устройства и его первым использованием таблицы. Чтобы избежать этого интервала, когда прямой запрос к ведомому устройству мог возвратить устаревшие данные, используйте опцию --init-file, чтобы заполнить таблицу MEMORY на ведущем устройстве при запуске.

Управление использованием памяти

Сервер нуждается в достаточной памяти, чтобы поддержать все таблицы MEMORY, которые используются в то же самое время.

Память не восстановлена, если Вы удаляете отдельные строки из таблицы. Память восстановлена только, когда вся таблица удалена. Память, которая ранее использовалась для удаленных строк, снова будет использована для новых строк в пределах той же самой таблицы. Чтобы освободить всю память, используемую таблицей, когда Вы больше не требуете ее содержания, выполните DELETE или TRUNCATE TABLE, чтобы удалить все строки или удалить таблицу в целом, используя DROP TABLE. Чтобы освободить память, используемую удаленными строками, надо использовать ALTER TABLE ENGINE=MEMORY.

Память, необходимая для одной строки в таблице MEMORY, вычислена, используя следующее выражение:

SUM_OVER_ALL_BTREE_KEYS(max_length_of_key +
                        sizeof(char*) * 4) +
SUM_OVER_ALL_HASH_KEYS(sizeof(char*) * 2) +
ALIGN(length_of_row + 1, sizeof(char*))
ALIGN() представляет фактор округления, чтобы заставить длину строки быть точно кратной размеру указателя char sizeof(char*) = 4 на 32-bit системах и 8 на 64-bit машинах.

Как упомянуто ранее, переменная max_heap_table_size устанавливает предел для максимального размера таблиц MEMORY. Чтобы управлять максимальным размером для отдельных таблиц, установите сеансовое значение этой переменной прежде, чем составить каждую таблицу. Не изменяйте глобальное значение max_heap_table_size , если Вы не предназначаете значение, которое будет использоваться для таблиц MEMORY, составленных всеми клиентами. Следующий пример создает две таблицы MEMORY с максимальным размером 1 МБ и 2 МБ, соответственно:

mysql> SET max_heap_table_size = 1024*1024;
Query OK, 0 rows affected (0.00 sec)

mysql> CREATE TABLE t1 (id INT, UNIQUE(id)) ENGINE = MEMORY;
Query OK, 0 rows affected (0.01 sec)

mysql> SET max_heap_table_size = 1024*1024*2;
Query OK, 0 rows affected (0.00 sec)

mysql> CREATE TABLE t2 (id INT, UNIQUE(id)) ENGINE = MEMORY;
Query OK, 0 rows affected (0.00 sec)
Обе таблицы возвращаются к глобальному значению max_heap_table_size , если сервер перезапускается.

Вы можете также определить табличную опцию MAX_ROWS в CREATE TABLE для таблиц MEMORY, чтобы обеспечить подсказку о числе строк, которое Вы планируете сохранить в них. Это не позволяет таблице вырасти вне max_heap_table_size , которое все еще действует как ограничение на максимальный табличный размер. Для максимальной гибкости в возможности использования MAX_ROWS, установите max_heap_table_size по крайней мере, столь же высоко как значение, к которому Вы хотите вырастить каждую таблицу MEMORY.

Дополнительные ресурсы

Форум, посвященный механизму хранения MEMORY, доступен на http://forums.mysql.com/list.php?92.

17.4. Механизм хранения CSV

Механизм хранения CSV хранит данные в текстовых файлах, используя отделенный запятыми формат значений.

Механизм хранения CSV всегда собирается в сервер MySQL.

Чтобы исследовать механизм CSV, см. каталог storage/csv дистрибутива исходных текстов MySQL.

Когда Вы создаете таблицу CSV, сервер создает файл с данными. Имя файла с данными начинается с имени таблицы и имеет расширение .CSV. Файл с данными это файл простого текста. Когда Вы сохраняете данные в таблицу, механизм хранения сохраняет это в файл с данными в отделенном запятыми формате значений.

mysql> CREATE TABLE test (i INT NOT NULL, c CHAR(10) NOT NULL)
    ->        ENGINE = CSV;
Query OK, 0 rows affected (0.12 sec)

mysql> INSERT INTO test VALUES(1,'record one'),(2,'record two');
Query OK, 2 rows affected (0.00 sec)
Records: 2  Duplicates: 0  Warnings: 0

mysql> SELECT * FROM test;
+---+------------+
| i | c          |
+---+------------+
| 1 | record one |
| 2 | record two |
+---+------------+
2 rows in set (0.00 sec)
Составление таблицы CSV также создает соответствующий метафайл, который хранит статус таблицы и число строк, которые существуют в таблице. Название этого файла то же самое, как название таблицы с расширением CSM.

Если Вы исследуете файл test.CSV в каталоге базы данных, создаваемый, выполняя предыдущие запросы, его содержание должно быть похожим на это:

"1","record one"
"2","record two"
Этот формат может быть считан и даже записан приложениями для обработки электронных таблиц, такими как Microsoft Excel или StarOffice Calc.

17.4.1. Восстановление и проверка таблиц CSV

Механизм хранения CSV поддерживает CHECK и REPAIR, чтобы проверить и если возможно отремонтировать поврежденную таблицу CSV.

Запрос CHECK проверяет файл CSV на законность, ища правильные полевые разделители, экранированные области, правильное число областей по сравнению с табличным определением и существование соответствующего метафайла. Первая недопустимая обнаруженная строка сообщит об ошибке. Проверка допустимой таблицы производит вывод как показано ниже:

mysql> check table csvtest;
+--------------+-------+----------+----------+
| Table        | Op    | Msg_type | Msg_text |
+--------------+-------+----------+----------+
| test.csvtest | check | status   | OK       |
+--------------+-------+----------+----------+
1 row in set (0.00 sec)
Проверка на поврежденной таблице возвращает ошибку:
mysql> check table csvtest;
+--------------+-------+----------+----------+
| Table        | Op    | Msg_type | Msg_text |
+--------------+-------+----------+----------+
| test.csvtest | check | error    | Corrupt  |
+--------------+-------+----------+----------+
1 row in set (0.01 sec)
Если проверка терпит неудачу, таблица отмечена как разрушенная. Как только таблица была отмечена как поврежденная, она автоматически восстановлена, когда Вы в следующий раз запустите CHECK или выполните SELECT. Соответствующее поврежденное состояние и новое состояние будут выведены на экран из CHECK:
mysql> check table csvtest;
+--------------+-------+----------+----------------------------+
| Table        | Op    | Msg_type | Msg_text                   |
+--------------+-------+----------+----------------------------+
| test.csvtest | check | warning  | Table is marked as crashed |
| test.csvtest | check | status   | OK                         |
+--------------+-------+----------+----------------------------+
2 rows in set (0.08 sec)
Чтобы восстановить таблицу, Вы можете использовать REPAIR, это копирует так много допустимых строк существующих данных CSV, насколько возможно, а затем заменяет существующий файл CSV восстановленными строками. Любые строки вне поврежденных данных потеряны.
mysql> repair table csvtest;
+--------------+--------+----------+----------+
| Table        | Op     | Msg_type | Msg_text |
+--------------+--------+----------+----------+
| test.csvtest | repair | status   | OK       |
+--------------+--------+----------+----------+
1 row in set (0.02 sec)

Во время ремонта только строки из файла CSV до первой поврежденной строки скопированы к новой таблице. Все другие строки от первой поврежденной строки до конца таблицы удалены, даже допустимые строки.

17.4.2. Ограничения CSV

Механизм хранения CSV не поддерживает индексацию.

Механизм хранения CSV не поддерживает разделение.

890

Все таблицы, которые Вы создаете с использованием механизма хранения CSV должны иметь признак NOT NULL на всех столбцах. Однако, для обратной совместимости, Вы можете продолжить использовать таблицы со столбцами, допускающими null, которые создавались в предыдущих выпусках MySQL (Bug #32050).

17.5. Механизм хранения ARCHIVE

Механизм хранения ARCHIVE производит таблицы специального назначения, которые хранят большое количество неиндексированных данных в очень маленьком виде.

Таблица 17.5. Особенности механизма хранения ARCHIVE

Пределы хранения НетТранзакцииНет Степень детализации блокировки Строка
MVCCНет Картографические типы данныхДа Индексирование геоданных Нет
Индексы B-tree НетИндексы T-treeНет Индексы HashНет
Индексы Full-text search НетКластеризуемые индексы НетКэш данных Нет
Кэш индексов НетСжатые данныеДа Шифрование данныхДа
Поддержка базы данных кластера НетРепликация ДаПоддержка внешнего ключа Нет
Резервное копирование/восстановление момента времениДаКэш запросов ДаСтатистика обновления для словаря данныхДа

Механизм хранения ARCHIVE включен в двоичные дистрибутивы MySQL. Чтобы включить этот механизму хранения, если Вы создаете MySQL из исходных текстов, вызовите CMake с опцией -DWITH_ARCHIVE_STORAGE_ENGINE.

Исходные тексты механизма ARCHIVE находятся в каталоге storage/archive исходных текстов MySQL.

Когда Вы создаете таблицу ARCHIVE, механизм хранения создает файлы с именами, которые начинаются с имени таблицы. У файла с данными есть расширение .ARZ. Файл .ARN может появиться во время операций оптимизации. Вы можете проверить, доступен ли механизм хранения ARCHIVE с помощью запроса SHOW ENGINES.

Механизм ARCHIVE поддерживает INSERT, REPLACE и SELECT, но не DELETE или UPDATE. Это действительно поддерживает ORDER BY, столбцы BLOB. Механизм ARCHIVE использует блокировку на уровне строки.

Механизм ARCHIVE поддерживает признак столбца AUTO_INCREMENT. У столбца AUTO_INCREMENT может быть уникальный или групповой индекс. Попытка создать индексирование на любом другом столбце приводит к ошибке. Механизм ARCHIVE также поддерживает табличную опцию AUTO_INCREMENT в CREATE TABLE, чтобы определить начальное значение последовательности для новой таблицы.

ARCHIVE не поддерживает вставку значения в столбец AUTO_INCREMENT меньше, чем текущее максимальное значение столбца. Попытки сделать так приводят к ошибке ER_DUP_KEY.

Механизм ARCHIVE игнорирует столбцы BLOB, если их не требуют.

Механизм ARCHIVE не поддерживает разделение.

Хранение: Строки сжаты, когда они вставлены. ARCHIVE использует zlib сжатие данных без потерь (см. http://www.zlib.net/). Вы можете использовать OPTIMIZE TABLE , чтобы проанализировать таблицу и упаковать ее в меньший формат (о причинах использования OPTIMIZE TABLE см. позже в этом разделе). Механизм также поддерживает CHECK TABLE. Есть несколько типов вставок, которые используются:

  • INSERT только продвигает строки в буфер сжатия. Вставка в буфер защищена блокировкой. SELECT сбрасывает буфер явно.

  • Оптовая вставка видима только после того, как она завершается, если другие вставки не происходят в то же самое время, когда она может быть замечена частично. SELECT никогда не вызывает сброс оптовой вставки, если нормальная вставка не происходит, в то время как она загружается.

Извлечение: при извлечении строки рассжаты по требованию, нет никакого кэша строки. SELECT выполняет полное сканирование таблицы: когда SELECT происходит, это узнает, сколько строк в настоящее время доступно и читает это число строк. SELECT выполнен как последовательное чтение. Отметьте, что многие запросы SELECT во время вставки могут ухудшить сжатие, если только не используются оптовые вставки. Чтобы достигнуть лучшего сжатия, Вы можете использовать OPTIMIZE TABLE или REPAIR TABLE. Число строк в таблицах ARCHIVE, о которых сообщает SHOW TABLE STATUS, всегда точно. См. разделы 14.7.2.4, 14.7.2.5 и 14.7.5.36.

Дополнительные ресурсы

17.6. Механизм хранения BLACKHOLE

Механизм хранения BLACKHOLE действует как дыра памяти, который принимает данные, но не хранит их. Извлечения всегда возвращают пустой результат:

mysql> CREATE TABLE test(i INT, c CHAR(10)) ENGINE = BLACKHOLE;
Query OK, 0 rows affected (0.03 sec)

mysql> INSERT INTO test VALUES(1,'record one'),(2,'record two');
Query OK, 2 rows affected (0.00 sec)
Records: 2  Duplicates: 0  Warnings: 0

mysql> SELECT * FROM test;
Empty set (0.00 sec)
Чтобы включить механизм хранения BLACKHOLE, если Вы создаете MySQL из исходных текстов, вызовите CMake с опцией -DWITH_BLACKHOLE_STORAGE_ENGINE.

Механизм BLACKHOLE находится в каталоге sql исходных текстов MySQL.

Когда Вы создаете таблицу BLACKHOLE, сервер создает табличное определение в глобальном словаре данных. Нет никаких файлов, связанных с таблицей.

Механизм хранения BLACKHOLE поддерживает все виды индексов. Таким образом, Вы можете включать индексные декларации в табличном определении.

Механизм хранения BLACKHOLE не поддерживает разделение.

Вы можете проверить доступен ли механизм хранения BLACKHOLE с помощью SHOW ENGINES.

Вставки в таблицу BLACKHOLE не хранят данных, но если двоичное журналирование, основанное на запросе, включено, запросы SQL зарегистрированы и копируются к ведомым серверам. Это может быть полезно как повторитель или фильтр.

Используя основанное на строке двоичное журналирование, обновления и удаления пропущены, но не зарегистрированы и не применены. Поэтому Вы должны использовать STATEMENT для формата двоичного журналирования, а не ROW или MIXED.

Предположите, что Ваше приложение требует, чтобы ведомая сторона применяла правила фильтрации, но передача всех двоичных данные журнала ведомому устройству привела к слишком большому количеству трафика. В таком случае возможно настроить на ведущем узле пустой ведомый процесс, механизм хранения по умолчанию которого BLACKHOLE примерно так:

Ведущее устройство пишет двоичный журнал. Пустой процесс mysqld обрабатывает действия как ведомое устройство, применяя желаемую комбинацию правил replicate-do-* и replicate-ignore-*, и пишет отфильтрованный результат в собственный двоичный журнал. См. раздел 19.1.6. Этот фильтруемый журнал обеспечен ведомому устройству.

Фиктивный процесс фактически не хранит данных, таким образом есть небольшая обработка, выполняя дополнительный процесс mysqld на ведущем узле. Этот тип установки может быть повторен с дополнительными ведомыми устройствами репликации.

Триггеры INSERT для таблиц BLACKHOLE работают как ожидалось. Однако, потому что BLACKHOLE фактически не хранит данных, триггеры UPDATE и DELETE не активированы: предложение FOR EACH ROW в определении не применяется, потому что нет никаких строк.

Другие возможные применения для механизма хранения BLACKHOLE включают:

  • Проверка синтаксиса файла дампа.

  • Измерение потерь от двоичного журналирования, сравнивая исполнительное использование BLACKHOLE с и без журналирования.
  • BLACKHOLE по существу пустой механизм хранения, таким образом, это может использоваться для того, чтобы учесть исполнительные узкие места, не связанные с механизмом хранения непосредственно.

Механизм BLACKHOLE осведомлен о транзакции, в том смысле, что переданные транзакции записаны в двоичный журнал, а отмененные нет.

Механизм Blackhole и столбцы Auto Increment:

Механизм Blackhole пустой. Любые операции, выполненные на табличном использовании Blackhole не будут иметь никакого эффекта. Это должно быть в памяти, рассматривая поведение столбцов первичного ключа, имеющих auto increment. Механизм не будет автоматически постепенно увеличивать значения полей и не сохраняет статус полей auto increment. У этого есть важные значения в репликации.

Рассмотрите следующий сценарий, где все три из следующих условий применяются:

  1. На главном сервере есть blackhole таблица с полем auto increment, которое является первичным ключом.

  2. На ведомом устройстве та же самая таблица существует, но с использованием механизма MyISAM.
  3. Вставки выполнены в таблицу ведущего устройства, явно не устанавливая значение auto increment в запросе INSERT непосредственно или посредством использования SET INSERT_ID.

В этом сценарии репликация потерпит неудачу с ошибкой дублирования записи на столбце первичного ключа.

При репликации на основе запроса значение INSERT_ID в контексте всегда будет то же самое. Репликация поэтому потерпит неудачу из-за попытки вставки строки с двойным значением столбца первичного ключа.

При репликации на основе строки значение, которое механизм возвращает для строки, всегда будет тем же самым для каждой вставкт. Это приведет к ведомому устройству, пытающемуся переигрывать две записи журнала о вставке, используя то же самое значение для столбца первичного ключа, таким образом, репликация потерпит неудачу.

Фильтрация столбца

При репликации на основе строки (binlog_format=ROW ), ведомое устройство, где последние столбцы отсутствуют в таблице, поддержано, как описано в разделе 19.4.1.10 .

Эта фильтрация работает на ведомой стороне, то есть, столбцы скопированы ведомому устройству прежде, чем они будут отфильтрованы. Есть по крайней мере два случая, где нежелательно скопировать столбцы к ведомому устройству:

  1. Если данные являются конфиденциальными, таким образом, у ведомого сервера не должно быть доступа к ним.

  2. Если у ведущего устройства есть много ведомых устройств, фильтрование прежде, чем послать в ведомые устройства, может уменьшить сетевой трафик.

Основная фильтрация столбца может быть достигнута, используя BLACKHOLE. Это выполнено подобном тому, как основная табличная фильтрация достигнута: при использовании BLACKHOLE и опций --replicate-do-table или --replicate-ignore-table.

Установка для ведущего устройства:

CREATE TABLE t1 (public_col_1, ..., public_col_N,
                 secret_col_1, ..., secret_col_M) ENGINE=MyISAM;
Установка для ведомого устройства, которому доверяют:
CREATE TABLE t1 (public_col_1, ..., public_col_N) ENGINE=BLACKHOLE;
Установка для ведомого устройства, которому не доверяют:
CREATE TABLE t1 (public_col_1, ..., public_col_N) ENGINE=MyISAM;

17.7. Механизм хранения MERGE

Механизм хранения MERGE, также известный как MRG_MyISAM, это набор идентичных таблиц MyISAM, которые могут использоваться в качестве одной. "Идентичные" означает, что все таблицы имеют идентичные столбцы и индексную информацию. Вы не можете слить таблицы MyISAM, в которых столбцы перечислены в различном порядке, не имеют точно тех же самых столбцов или имеют индексы в различном порядке. Однако, любая из таблиц MyISAM может быть сжата с myisampack. См. раздел 5.6.6. Различия в таких табличных опциях, как AVG_ROW_LENGTH , MAX_ROWS или PACK_KEYS не имеют значения.

Альтернатива таблице MERGE это разделенная таблица, которая хранит разделение единственной таблицы в отдельных файлах и позволяет некоторым операциям быть выполненными более эффективно. Для получения дополнительной информации см. главу 20.

Когда Вы создаете таблицу MERGE, MySQL создает файл .MRG на диске, который содержит названия основных таблиц MyISAM, которые должны использоваться в качестве одной. Формат таблицы MERGE сохранен в словаре данных MySQL. Основные таблицы не должны быть в той же самой базе данных, что и MERGE.

Вы можете использовать SELECT, DELETE, UPDATE и INSERT на таблицах MERGE. Вы должны иметь привилегии SELECT, DELETE и UPDATE на таблицах MyISAM, которые Вы отображаете на таблицу MERGE.

Использование таблицы MERGE влечет за собой следующий вопрос безопасности: если у пользователя есть доступ к MyISAM-таблице t, этот пользователь может создать MERGE-таблицу m, которая получает доступ к t. Однако, если привилегии пользователя на t впоследствии отменяются, пользователь может продолжить получать доступ к t через m.

Использование DROP TABLE с таблицей MERGE удалит только спецификацию MERGE. Основные таблицы не затронуты.

Чтобы создать таблицу MERGE, Вы должны определить опцию UNION=(list-of-tables), которая указывает, которые таблицы MyISAM использовать. Вы можете произвольно определить опцию INSERT_METHOD, чтобы управлять, как вставлять в таблицу MERGE. Используйте значение FIRST или LAST, чтобы вставки юыли сделаны в первой или последней основной таблице, соответственно. Если Вы не определяете INSERT_METHOD или если Вы определяете это со значением NO, вставка в таблицу MERGE не разрешена, и попытка ее сделать вернет ошибку.

Следующий пример показывает, как создать таблицу MERGE:

mysql> CREATE TABLE t1 (a INT NOT NULL AUTO_INCREMENT PRIMARY KEY,
    ->                  message CHAR(20)) ENGINE=MyISAM;
mysql> CREATE TABLE t2 (a INT NOT NULL AUTO_INCREMENT PRIMARY KEY,
    ->                  message CHAR(20)) ENGINE=MyISAM;
mysql> INSERT INTO t1 (message) VALUES ('Testing'),('table'),('t1');
mysql> INSERT INTO t2 (message) VALUES ('Testing'),('table'),('t2');
mysql> CREATE TABLE total (a INT NOT NULL AUTO_INCREMENT,
    ->        message CHAR(20), INDEX(a))
    ->        ENGINE=MERGE UNION=(t1,t2) INSERT_METHOD=LAST;
Столбец a индексирован как PRIMARY KEY в основной таблице MyISAM, но не в таблице MERGE. Там это индексировано, но не как PRIMARY KEY, так как таблица MERGE не может провести в жизнь уникальность по набору основных таблиц. Точно так же столбец с индексом UNIQUE в основных таблицах, должен быть индексирован в MERGE, но не как UNIQUE.

После создания таблицы MERGE Вы можете использовать ее, чтобы создать запросы, которые воздействуют на группу таблиц в целом:

mysql> SELECT * FROM total;
+---+---------+
| a | message |
+---+---------+
| 1 | Testing |
| 2 | table   |
| 3 | t1      |
| 1 | Testing |
| 2 | table   |
| 3 | t2      |
+---+---------+
Чтобы переопределить таблицу MERGE к иному набору таблиц MyISAM, Вы можете использовать один из следующих методов:

  • DROP таблицу MERGE и пересоздайте ее.

  • Примените ALTER TABLE tbl_name UNION=(...), чтобы изменить список основных таблиц.

    Также возможно использовать ALTER TABLE ... UNION=() (то есть, с пустым предложением UNION ), чтобы удалить все основные таблицы. Однако, в этом случае, таблица эффективно пуста и вставки терпят неудачу, потому что нет никакой основной таблицы, чтобы взять новые строки. Такая таблица могла бы быть полезной как шаблон для создания новой таблицы MERGE с помощью CREATE TABLE ... LIKE.

Основные табличные определения и индексы должны соответствовать близко определению MERGE. Соответствие проверено, когда таблица, которая является частью MERGE, открыта, а не когда MERGE-таблица составлена. Если какая-либо таблица не проходит проверку соответствия, работа, которая вызвала открытие таблицы, терпит неудачу. Это означает, что изменения определений таблиц в пределах MERGE может вызвать отказ при доступе к MERGE. Проверка соответствия относится к каждой таблице:

  • У таблицы должно быть то же самое число столбцов.

  • Порядок следования столбцов в основной таблице и MERGE должен соответствовать.
  • Дополнительно, спецификация для каждого соответствующего столбца в MERGE и основных таблицах сравнены и должны удовлетворить этим проверкам:

    • Тип столбца в основной таблице и MERGE должен быть равным.

    • Длина столбца в основной таблице и MERGE должна быть равной.
    • Столбец основной таблицы и MERGE может быть NULL.

  • Основная таблица должна иметь, по крайней мере, столько индексов, сколько MERGE. Основная таблица может иметь больше индексов, чем MERGE, но не может иметь меньше.

    Известная проблема существует: индексы на тех же самых столбцах должны быть в идентичном порядке в таблицах MERGE и MyISAM. См. Bug #33653.

    Каждый индекс должен удовлетворить эти проверки:

    • Тип индекса основной таблицы и MERGE должен быть тем же самым.

    • Число частей индекса в определении для основной таблицы и MERGE должно быть тем же самым.
    • Для каждой части индекса:

      • Длины частей индекса должны быть равны.

      • Типы частей индекса должны быть равны.
      • Языки частей индекса должны быть равны.
      • Проверьте, могут ли части индекса быть NULL.

Если таблица MERGE не может быть открыта или использоваться из-за проблемы с основной таблицей, CHECK TABLE покажет информацию о том, которая таблица вызвала проблему.

Дополнительные ресурсы

17.7.1. Табличные преимущества и недостатки MERGE

Таблицы MERGE могут помочь Вам решить следующие проблемы:

  • Легко управлять рядом таблиц журнала. Например, Вы можете поместить данные с различных месяцев в отдельные таблицы, сжать некоторых из них myisampack , а затем создать таблицу MERGE, чтобы использовать их в качестве одной.

  • Получите больше скорости. Вы можете разделить большую таблицу только для чтения, основываясь на некоторых критериях, а затем помещать отдельные таблицы на различные диски. Таблица MERGE структурировала этот путь, что может быть намного быстрее, чем использование единственной большой таблицы.
  • Выполните более эффективные поиски. Если Вы знаете точно, что Вы ищете, Вы можете искать только в одной из основных таблиц для некоторых запросов и использовать MERGE для других. У Вас даже может быть много отличающихся MERGE, которые используют накладывающиеся наборы таблиц.
  • Выполните более эффективный ремонт. Легче восстановить отдельные меньшие таблицы, которые отображены на MERGE, чем восстановить единственную большую таблицу.
  • Немедленно отобразите много таблиц как одну. MERGE не должна поддерживать собственное индексирование, потому что она использует индексирование отдельных таблиц. В результате MERGE очень быстры, чтобы создать или повторно отобразить. Вы должны все еще определить индекс, когда Вы создаете MERGE, даже при том, что индексы не создаются.
  • Если у Вас есть ряд таблиц, из которых Вы составляете большую таблицу по требованию, Вы можете вместо этого создать MERGE. Это намного быстрее и сохраняет много дискового пространства.
  • Превысьте предел размера файла для операционной системы. Каждая таблица MyISAM связана этим пределом, но не набор таблиц MyISAM.
  • Вы можете создать псевдоним или синоним для таблицы MyISAM, определяя MERGE, которая отображается на эту единственную таблицу. Не должно быть никакого действительно известного исполнительного воздействия от выполнения этого (только несколько косвенных требований и вызовов memcpy() к каждому чтению).

Недостатки MERGE-таблицы:

  • Вы можете использовать только идентичные MyISAM-таблицы для MERGE.

  • Некоторые особенности MyISAM недоступны в MERGE. Например, Вы не можете создать FULLTEXT индекс на MERGE. Вы можете создать индекс FULLTEXT на основных таблицах MyISAM, но Вы не можете искать в MERGE по нему.
  • Если MERGE-таблица является невременной, все основные MyISAM-таблицы должны быть невременными. Если MERGE является временной, MyISAM-таблицы могут быть любым соединением временных и невременных.
  • MERGE используют больше описателей файла, чем MyISAM. Если 10 клиентов используют таблицу MERGE, которая отображается на 10 таблиц, сервер использует (10 * 10) + 10 описателей файла. (10 описателей файла с данными для каждого из этих 10 клиентов, и 10 описателей индексного файла совместно использованы среди всех клиентов.
  • Индекс читается медленнее. Когда Вы читаете индекс, механизм хранения MERGE должен запустить чтение на всех основных таблицах, чтобы проверить, какой наиболее близко соответствует. Чтобы считать следующее индексное значение, MERGE должен искать буферы чтения, чтобы найти следующее значение. Только когда каждый индексный буфер израсходован, механизм хранения должен читать следующий индексный блок. Это делает индексы MERGE намного медленнее на запросах eq_ref, но не намного медленнее на поисках ref.

17.7.2. Табличные проблемы MERGE

Следующее известные проблемы с таблицами MERGE:

  • В версиях сервера MySQL до 5.1.23 было возможно составить временные таблицы MERGE с невременными таблицами MyISAM.

    С версии 5.1.23 MERGE заблокированы через родительскую таблицу. Если родитель был временным, это не было заблокировано и таким образом, дочерние элементы не были заблокированы также. Параллельное использование таблиц MyISAM повреждает их.

  • Если Вы используете ALTER TABLE , чтобы изменить MERGE к другому механизму хранения, отображение на основные таблицы потеряно. Вместо этого строки основных таблиц MyISAM скопированы в измененную таблицу, которая использует указанный механизм хранения.
  • Опция таблицы INSERT_METHOD для MERGE показывает, какую из основных таблиц MyISAM использовать для вставок в MERGE. Однако, использование опции AUTO_INCREMENT для этой таблицы MyISAM не имеет никакого эффекта для вставок в MERGE, пока по крайней мере одна строка не была вставлена непосредственно в MyISAM.
  • Таблица MERGE не может поддержать ограничения уникальности по всей таблице. Когда Вы выполняете INSERT, данные входят в первую или последнюю таблицу MyISAM table (как определено INSERT_METHOD). MySQL гарантирует, что уникальные значения ключа остаются уникальными в пределах этой таблицы MyISAM, но не по всем основным таблицам в наборе.
  • Поскольку механизм MERGE не может провести в жизнь уникальность по набору основных таблиц, REPLACE не работает как ожидалось. Два ключевых факта:

    • REPLACE может обнаружить уникальные ключевые нарушения только в основной таблице, в которую собирается записать (которая определена INSERT_METHOD). Это отличается от нарушений в таблице MERGE непосредственно.

    • Если REPLACE обнаруживает уникальное ключевое нарушение, это изменит только соответствующую строку в основной таблице, которую пишет, то есть, первую или последнюю таблицу, как определено INSERT_METHOD.

    Подобные соображения применимы к INSERT ... ON DUPLICATE KEY UPDATE.

  • MERGE не поддерживают разделение. Таким образом, Вы не можете разделить MERGE или любую из основных таблиц.
  • Вы не должны использовать ANALYZE TABLE, REPAIR TABLE , OPTIMIZE TABLE, ALTER TABLE, DROP TABLE, DELETE без предложения WHERE или TRUNCATE TABLE на любой из таблиц, которые отображены в открытую таблицу MERGE. Если Вы делаете так, MERGE может все еще обратиться к оригинальной таблице и привести к неожиданным результатам. Чтобы обойти эту проблему, гарантируйте, что нет открытых таблиц MERGE с помощью FLUSH TABLES до выполнения любой из названных операций.

    Неожиданные результаты включают возможность того, что работа на таблице MERGE сообщит о табличном повреждении. Если это происходит после одной из названных операций на основной MyISAM-таблице, сообщение повреждения является поддельным. Выполните запрос FLUSH TABLES после изменения MyISAM.

  • DROP TABLEна таблице, которая используется MERGE не работает в Windows потому, что табличное отображение механизма хранения MERGE скрыто от верхнего уровня MySQL. Windows не разрешает открытым файлам быть удаленными, таким образом, Вы сначала должны сбросить все таблицы MERGEFLUSH TABLES) или удалить MERGE прежде, чем удалить основную таблицу.
  • Определение MyISAM таблицы и MERGE проверено, когда к таблицам получают доступ (например, как часть SELECT или INSERT). Проверки гарантируют что определения таблиц соответствуют определению, сравнивая порядок следования столбцов, типы, размеры и связанные индексы. Если есть различие между таблицами, ошибка возвращена, и запрос терпит неудачу. Поскольку эти проверки имеют место, когда таблицы открыты, любые изменения определения единственной таблицы, включая изменения столбца, упорядочивания столбцов и изменения механизма хранения заставят запрос терпеть неудачу.
  • Порядок индексов в MERGE и основных таблицах должен быть тем же самым. Если Вы используете ALTER TABLE, чтобы добавить индекс UNIQUE к таблице, используемой в MERGE, и затем используете ALTER TABLE, чтобы добавить групповой индекс на MERGE, порядок индексов отличается для таблиц, если уже был групповой индекс в основной таблице. Это происходит потому, что ALTER TABLE помещает индексы UNIQUE перед групповыми, чтобы облегчить быстрое обнаружение дубликатов ключей. Следовательно, запросы на таблицах с таким индексом могут возвратить неожиданные результаты.
  • Если Вы сталкиваетесь с сообщением об ошибке, подобным ERROR 1017 (HY000): Can't find file: 'tbl_name.MRG' (errno: 2) , это вообще указывает, что некоторые из основных таблиц не используют механизм хранения MyISAM. Подтвердите, что все эти таблицы MyISAM.
  • Максимальное количество строк в MERGE 264 (~1.844E+19: то же самое касается MyISAM). Невозможно слить много таблиц MyISAM в одну MERGE, у которой было бы больше, чем это число строк.
  • Использование основных таблиц MyISAM, отличающихся форматом строк, как в настоящее время известно, терпит неудачу. См. Bug #32364.
  • Вы не можете изменить список union невременной таблицы MERGE, когда активна LOCK TABLES. Следующее НЕ работает:
    CREATE TABLE m1 ... ENGINE=MRG_MYISAM ...;
    LOCK TABLES t1 WRITE, t2 WRITE, m1 WRITE;
    ALTER TABLE m1 ... UNION=(t1,t2) ...;
    
    Однако, Вы можете сделать это с временной таблицей MERGE.
  • Вы не можете создать таблицу MERGE с CREATE ... SELECT как временную таблицу MERGE или невременную MERGE. Например:
    CREATE TABLE m1 ... ENGINE=MRG_MYISAM ... SELECT ...;
    
    Попытки сделать это приведут к ошибке: tbl_name is not BASE TABLE.
  • В некоторых случаях отличие табличной опции PACK_KEYS вызывает неожиданные результаты, если основные таблицы содержат столбцы CHAR или BINARY. Как обходное решение, можно использовать ALTER TABLE, чтобы гарантировать, что у всех вовлеченных таблиц есть то же самое значение PACK_KEYS (Bug #50646).

17.8. Механизм хранения FEDERATED

Механизм хранения FEDERATED позволяет Вам доступ к данным от удаленной базы данных MySQL, не используя технологию кластера или репликации. Запросы к локальной таблице FEDERATED автоматически вытягивают данные из удаленных (объединенных) таблиц. Никакие данные не хранятся в местных таблицах.

Чтобы включить механизм хранения FEDERATED, если Вы создаете MySQL из исходных текстов, вызовите CMake с опцией -DWITH_FEDERATED_STORAGE_ENGINE.

Механизм хранения FEDERATED не включен по умолчанию в рабочем сервере, чтобы его включить, Вы должны запустить сервер MySQL с опцией --federated.

Исходный текст механизма FEDERATED находится в каталоге storage/federated исходных текстов MySQL.

17.8.1. Краткий обзор механизма хранения FEDERATED

Когда Вы составляете таблицу, используя один из стандартных механизмов хранения (такой как MyISAM, CSV или InnoDB), таблица состоит из табличного определения и связанных данных. Когда Вы создаете таблицу FEDERATED, табличное определение то же самое, но физическое хранение данных обработано на удаленном сервере.

Таблица FEDERATED состоит из двух элементов:

  • Удаленный сервер с таблицей базы данных, которая в свою очередь состоит из табличного определения (сохраненного в словаре данных MySQL) и связанной таблицы. Табличный тип отдаленной таблицы может быть любым типом, поддержанным отдаленным сервером mysqld, включая MyISAM или InnoDB.

  • Локальный сервер с таблицей базы данных, где табличное определение соответствует таблице на удаленном сервере. Табличное определение сохранено в словаре данных. На локальном сервере нет никакого файла с данными. Вместо этого табличное определение включает строку подключения, которая указывает на отдаленную таблицу.

Выполняя запросы к таблице FEDERATED на локальном сервере, операции, которые обычно вставляли бы, обновляли или удаляли информацию из местного файла с данными вместо этого посланы в удаленный сервер для выполнения, где они обновляют файл с данными на удаленном сервере.

Базовая структура таблицы FEDERATED показана на рис. 17.1.

Рис. 17.1. Структура таблицы FEDERATED

Когда клиент делает запрос SQL, который обращается к таблице FEDERATED, потоки информации между локальным сервером (где запрос SQL выполнен) и удаленным сервером (где данные физически хранятся) следующие:

  1. Механизм хранения просматривает каждый столбец таблицы FEDERATED и создает соответствующий запрос SQL, который относится к отдаленной таблице.

  2. Запрос посылают в удаленный сервер, используя MySQL client API.
  3. Удаленный сервер обрабатывает запрос, и локальный сервер получает любой результат, к которому запрос приводит (количество затронутых строк или набор результатов).
  4. Если запрос производит набор результатов, каждый столбец преобразован во внутренний формат механизма хранения, который может использоваться, чтобы вывести результат клиенту, который сделал оригинальное запрос.

Локальный сервер сообщает с использованием удаленного сервера MySQL C API. Это вызывает mysql_real_query() , чтобы послать запрос. Чтобы считать набор результатов, это использует mysql_store_result() и передает строки по одной, используя mysql_fetch_row().

17.8.2. Как составить таблицу FEDERATED

Чтобы создать таблицу FEDERATED, Вы должны следовать за этими шагами:

  1. Составьте таблицу на удаленном сервере. Альтернативно, обратите внимание на табличное определение существующей таблицы, возможно, используя SHOW CREATE TABLE.

  2. Составьте таблицу на локальном сервере с идентичным табличным определением, но с добавлением информации о соединении, которая соединяет местную таблицу с отдаленной.

Например, Вы могли бы составить следующую таблицу на удаленном сервере:

CREATE TABLE test_table (id INT(20) NOT NULL AUTO_INCREMENT,
                         name VARCHAR(32) NOT NULL DEFAULT '',
                         other INT(20) NOT NULL DEFAULT '0',
                         PRIMARY KEY (id), INDEX name (name),
                         INDEX other_key (other)) ENGINE=MyISAM
                         DEFAULT CHARSET=latin1;
Чтобы составить местную таблицу, которая будет объединенной с отдаленной таблицей, есть две доступные опции. Вы можете или составить местную таблицу и определить строку подключения (содержащую имя сервера, вход в систему и пароль), чтобы соединиться с отдаленной таблицей, используя CONNECTION, или Вы можете использовать существующее соединение, которое Вы ранее создали с использованием CREATE SERVER.

Когда Вы составляете местную таблицу, у нее должно быть определение, идентичное отдаленной таблице.

Вы можете улучшить исполнение таблицы FEDERATED добавлением индекса к таблице на узле. Оптимизация произойдет, потому что запрос, посланный в удаленный сервер, будет включать содержание предложения WHERE, посланного в удаленный сервер, и впоследствии выполнен в местном масштабе. Это уменьшает сетевой трафик, который иначе запросил бы всю таблицу от сервера для местной обработки.

17.8.2.1. Создание таблицы FEDERATED, используя CONNECTION

Чтобы использовать первый метод, Вы должны определить строку CONNECTION после типа механизма в CREATE TABLE. Например:

CREATE TABLE federated_table (id INT(20) NOT NULL AUTO_INCREMENT,
                              name VARCHAR(32) NOT NULL DEFAULT '',
                              other INT(20) NOT NULL DEFAULT '0',
                              PRIMARY KEY (id), INDEX name (name),
                              INDEX other_key (other)) ENGINE=FEDERATED
                              DEFAULT CHARSET=latin1
       CONNECTION='mysql://fed_user@remote_host:9306/federated/test_table';

CONNECTION заменяет COMMENT, используемый в некоторых предыдущих версиях MySQL.

Строка CONNECTION содержит информацию, запрошенную, чтобы соединиться с удаленным сервером, содержащим таблицу, которая будет использоваться, чтобы физически хранить данные. Строка подключения определяет имя сервера, параметры входа в систему, номер порта и информацию о базе данных/таблице. В примере отдаленная таблица находится на сервере remote_host, порт 9306. Имя и номер порта должны соответствовать имени хоста (или IP-адресу) и номеру порта отдаленного сервера MySQL, который Вы хотите использовать в качестве Вашей отдаленной таблицы.

Формат строки подключения:

scheme://user_name[:password]@
host_name[:port_num]/db_name/tbl_name
Здесь:

  • scheme: Признанный протокол соединения. Только mysql поддержан как scheme.

  • user_name: Имя пользователя для соединения. Это пользователь, который должен быть создан на удаленном сервере, и должен иметь подходящие привилегии, чтобы выполнить необходимые действия. (SELECT, INSERT, UPDATE и т.д.) на отдаленной таблице.
  • password: (дополнительно) соответствующий пароль для user_name.
  • host_name: Имя хоста или IP-адрес удаленного сервера.
  • port_num: (дополнительно) номер порта для удаленного сервера. Значение по умолчанию 3306.
  • db_name: Название базы данных, содержащей отдаленную таблицу.
  • tbl_name: Название отдаленной таблицы. Имя местной и отдаленной таблиц не должны совпадать.

Типовые строки подключения:

CONNECTION='mysql://username:password@hostname:port/database/tablename'
CONNECTION='mysql://username@hostname/database/tablename'
CONNECTION='mysql://username:password@hostname/database/tablename'

17.8.2.2. Создание таблицы FEDERATED, используя CREATE SERVER

Если Вы создаете много таблиц FEDERATED на том же самом сервере, или если Вы хотите упростить процесс создания таблиц FEDERATED, Вы можете использовать CREATE SERVER, чтобы определить параметры соединения сервера, как Вы задали бы строку CONNECTION.

Формат CREATE SERVER:

CREATE SERVER server_name
       FOREIGN DATA WRAPPER wrapper_name
       OPTIONS (option [, option] ...)
server_name используется в строке подключения, создавая новую таблицу FEDERATED.

Например, чтобы создать соединение сервера, идентичное строке CONNECTION:

CONNECTION='mysql://fed_user@remote_host:9306/federated/test_table';
Вы использовали бы следующий запрос:
CREATE SERVER fedlink FOREIGN DATA WRAPPER mysql
       OPTIONS (USER 'fed_user', HOST 'remote_host', PORT 9306,
                DATABASE 'federated');
Чтобы создать таблицу FEDERATED, которая использует это соединение, Вы все еще используете ключевое слово CONNECTION, но определяете имя, которое Вы использовали в CREATE SERVER.
CREATE TABLE test_table (id INT(20) NOT NULL AUTO_INCREMENT,
                         name VARCHAR(32) NOT NULL DEFAULT '',
                         other INT(20) NOT NULL DEFAULT '0',
                         PRIMARY KEY (id), INDEX name (name),
                         INDEX other_key (other)) ENGINE=FEDERATED
                         DEFAULT CHARSET=latin1
                         CONNECTION='fedlink/test_table';
Имя соединения в этом примере содержит название соединения (fedlink) и название таблицы (test_table), отделенное наклонной чертой. Если Вы определяете только имя соединения без имени таблицы, имя местной таблицы используется вместо этого.

The CREATE SERVER принимает те же самые параметры, как строка CONNECTION. CREATE SERVER обновляет строки в таблице mysql.servers. См. следующую таблицу для информации о связи между параметрами в строке подключения, опциями в CREATE SERVER и и столбцами в таблице mysql.servers. Для ссылки формат строки CONNECTION следующий:

scheme://user_name[:password]@
host_name[:port_num]/db_name/tbl_name
ОписаниеСтрока CONNECTIONОпция CREATE SERVER Столбец mysql.servers
Схема соединенияscheme wrapper_nameWrapper
Отдаленный пользовательuser_name USERUsername
Отдаленный парольpassword PASSWORDPassword
Отдаленный узелhost_name HOSTHost
Отдаленный портport_num PORTPort
Отдаленная база данныхdb_name DATABASEDb

17.8.3. Примечания и подсказки о механизме хранения FEDERATED

Вы должны знать о следующих моментах, используя механизм хранения FEDERATED:

  • Таблицы FEDERATED могут копироваться к другим ведомым устройствам, но Вы должны гарантировать, что ведомые серверы в состоянии использовать комбинацию пользователя/пароля, которая определена в строке CONNECTION (или строке в таблице mysql.servers), чтобы соединиться с удаленным сервером.

Следующие элементы указывают на особенности механизма хранения FEDERATED:

  • Удаленный сервер должен быть сервером MySQL.

  • Отдаленная таблица, на которую ссылается таблица FEDERATED, должна существовать прежде, чем Вы попытаетесь получить доступ к таблице через FEDERATED.
  • Возможно для одной таблицы FEDERATED указать на другую, но Вы должны бояться создать петлю.
  • Таблица FEDERATED не поддерживает индексы в обычном смысле, потому как доступ к табличным данным обработан отдаленно, это фактически отдаленная таблица, которая использует индексы. Это означает, что для запроса, который не может использовать любой индекс и требует полного сканирования таблицы, сервер приносит все строки от отдаленной таблицы и фильтрует их в местном масштабе. Это происходит независимо от любых WHERE или LIMIT, используемых с этим SELECT: эти пункты применены в местном масштабе к возвращенным строкам.

    Запросы, которые не в состоянии использовать индексы, могут таким образом вызвать низкую производительность и сетевую перегрузку. Кроме того, так как возвращенные строки должны быть сохранены в памяти, такой запрос может также привести к свопингу или даже зависанию локального сервера.

  • Забота должна быть проявлена, создавая определение индекса таблицы FEDERATED. Например, создание таблицы FEDERATED с индексной приставкой на столбцах VARCHAR , TEXT или BLOB потерпит неудачу. Следующее определение в MyISAM допустимо:
    CREATE TABLE `T1`(`A` VARCHAR(100),UNIQUE KEY(`A`(30))) ENGINE=MYISAM;
    
    Ключевая приставка в этом примере является несовместимой с FEDERATED, а эквивалентный запрос потерпит неудачу:
    CREATE TABLE `T1`(`A` VARCHAR(100),UNIQUE KEY(`A`(30))) ENGINE=FEDERATED
                      CONNECTION='MYSQL://127.0.0.1:3306/TEST/T1';
    
    Если возможно, Вы должны попытаться отделить столбец и индексировать определение, составляя таблицы на удаленном сервере и на локальном сервере, чтобы избежать, чтобы они индексировали проблемы.
  • Внутренне реализовано выполнение SELECT, INSERT, UPDATE и DELETE, но не HANDLER.
  • Механизма хранения FEDERATED понимает SELECT, INSERT, UPDATE, DELETE, TRUNCATE TABLE и индексы. Это не поддерживает ALTER TABLE или любые запросы языка определения данных, которые непосредственно затрагивают структуру таблицы, кроме DROP TABLE. Текущее выполнение не использует подготовленные запросы.
  • FEDERATED принимает INSERT ... ON DUPLICATE KEY UPDATE, но если происходит ошибка дубликата ключа, запрос терпит неудачу с ошибкой.
  • Работа на FEDERATED, выполняя большую вставку (например, на INSERT INTO ... SELECT ...) медленнее чем с другими табличными типами, потому что каждая выбранная строка обработана как отдельный запрос INSERT на таблице FEDERATED.
  • Транзакции не поддержаны.
  • FEDERATED выполняет обработку больших вставок таким образом, что много строк посылаются в отдаленную таблицу в пакете. Это обеспечивает исполнительное усовершенствование и позволяет отдаленной таблице выполнить усовершенствование. Кроме того, если отдаленная таблица является транзакционной, она позволяет отдаленному механизму хранения выполнить отмену транзакции должным образом в случае ошибки. У этой способности есть следующие ограничения:

    • Размер вставки не может превысить максимальный пакетный размер обмена между серверами. Если вставка превышает этот размер, она поделена на много пакетов, и проблема с отменой транзакции может произойти.

    • Обработка большой вставки не происходит для INSERT ... ON DUPLICATE KEY UPDATE.

  • Нет никакого пути у механизма FEDERATED узнать, изменилась ли отдаленная таблица. Причина этого состоит в том, что эта таблица должна работать как файл с данными, который никогда не писался бы ничем кроме системы базы данных. Целостность данных в местной таблице могла быть нарушена, если бы было какое-либо изменение отдаленной базы данных.

  • Используя CONNECTION, Вы не можете использовать символ '@' в пароле. Вы можете обойти это ограничение при использовании CREATE SERVER, чтобы создать соединение.
  • Опции insert_id и timestamp не размножены к источнику данных.
  • Любой DROP TABLE для FEDERATED удаляет только местную таблицу, но не отдаленную.
  • Таблицы FEDERATED не работают с кэшем запроса.
  • Определяемое пользователем разделение не поддержано для FEDERATED.

17.8.4. Ресурсы механизма хранения FEDERATED

Дополнительные ресурсы доступны для FEDERATED:

17.9. Механизм хранения EXAMPLE

Механизм хранения EXAMPLE это механизм, который ничего не делает. Его цель состоит в том, чтобы служить примером в исходном коде MySQL, который иллюстрирует, как начать писать новые механизмы хранения. Это имеет прежде всего интерес для разработчиков.

Чтобы включить механизм хранения EXAMPLE, если Вы создаете MySQL из исходных текстов, вызовите CMake с опцией -DWITH_EXAMPLE_STORAGE_ENGINE.

Исходные тексты механизма хранения EXAMPLE находятся в каталоге storage/example дистрибутива исходных текстов MySQL.

Когда Вы создаете EXAMPLE, никакие файлы не создаются. Никакие данные не могут храниться в таблицу. Извлечения возвращают пустой результат.

mysql> CREATE TABLE test (i INT) ENGINE = EXAMPLE;
Query OK, 0 rows affected (0.78 sec)

mysql> INSERT INTO test VALUES(1),(2),(3);
ERROR 1031 (HY000): Table storage engine for 'test' doesn't have this option

mysql> SELECT * FROM test;
Empty set (0.31 sec)
Механизм хранения EXAMPLE не поддерживает индексацию и разделение.

17.10. Другие механизмы хранения

Другие механизмы хранения могут быть доступными от третьих сторон и членов сообщества, которые использовали интерфейс Custom Storage Engine.

Сторонние механизмы не поддержаны MySQL. Для дополнительной информации, документации, инструкций по установке, сообщений об ошибках или для любой справки или помощи с этими механизмами, пожалуйста, свяжитесь с разработчиком механизма непосредственно.

Для получения дополнительной информации о развитии потребительского механизма хранения, который может использоваться с Pluggable Storage Engine Architecture, см. MySQL Internals: Writing a Custom Storage Engine.

17.11. Краткий обзор MySQL Storage Engine Architecture

Архитектура подключаемого механизма хранения MySQL позволяет профессионалу базы данных выбрать специализированный механизм хранения для особой потребности приложения, будучи полностью свободным от того, чтобы управлять любым определенным приложением, кодирующим требования. Архитектура сервера MySQL изолирует программиста приложения и DBA от всех низкоуровневых деталей выполнения на уровне хранения, обеспечивая последовательную и легкую модель приложения и API. Таким образом, хотя есть различные способности у разных механизмов хранения, приложение экранировано от этих различий.

Подключаемыя архитектура механизма хранения обеспечивает стандартный набор методов управления и поддержки, который распространен среди всех основных механизмов хранения. Механизмы самого хранения это компоненты сервера базы данных, которые фактически выполняют действия на основных данных, которые поддержаны на уровне физического сервера.

Эта эффективная и модульная архитектура обеспечивает огромные возможности для тех приложений, которые определенно предназначаются для особых задач. Таких, как складирование данных, обработка транзакций или высокая доступность, обладая преимуществом использования ряда интерфейсов и служб, которые независимы от любого механизма хранения.

Программист приложения и DBA взаимодействуют с базой данных MySQL через Connector API и уровни служб, которые выше механизмов хранения. Если изменения приложения вызывают требования изменений механизма хранения, или чтобы один или более механизмов хранения были добавлены, чтобы поддержать новые потребности, никакие существенные изменения кодирования или процесса не нужны. Архитектура сервера MySQL экранирует приложение от основной сложности механизма хранения, представляя последовательный и удобный в работе API, который применяется через механизмы хранения.

17.11.1. Архитектура подключаемого механизма хранения

MySQL Server использует подключаемую архитектуру механизма хранения, которая позволяет механизмам хранения быть загруженными в сервер.

Включение механизма хранения

Прежде, чем механизм хранения сможет использоваться, совместно использованная библиотека плагина механизма хранения должна быть загружена в MySQL, используя INSTALL PLUGIN . Например, если плагин механизма EXAMPLE называется example и совместно используемую библиотеку называют ha_example.so, Вы загружаете это следующим запросм:

mysql> INSTALL PLUGIN example SONAME 'ha_example.so';
Чтобы установить подключаемый механизм хранения, файл должен быть расположен в каталоге плагинов MySQL, а пользователь, вызывающий INSTALL PLUGIN должен иметь привилегию INSERT для таблицы mysql.plugin.

Совместно используемая библиотека должна быть расположена в каталоге плагинов сервера MySQL, местоположение которого дано переменной plugin_dir.

Отключение механизма хранения

Чтобы отключить механизм хранения, используйте UNINSTALL PLUGIN:

mysql> UNINSTALL PLUGIN example;
Если Вы отключаете механизм хранения, который необходим существующим таблицам, те таблицы становятся недоступными, но будут все еще присутствовать на диске (где применимо). Гарантируйте, что нет никаких таблиц, использующих этот механизм хранения прежде, чем Вы отключите механизм хранения.

17.11.2. Общий уровень базы данных сервера

Подключаемый механизм хранения MySQL является компонентом в сервере базы данных MySQL, который ответственен за то, что выполняет фактические операции ввода/вывода для базы данных так же, как реализует определенные наборы функций, которые предназначаются для определенной потребности приложения. Главная выгода использования механизмов хранения: Вам поставляют только особенности, необходимые для особого приложения, поэтому у Вас есть меньше затрат с более эффективным конечным результатом

С технической точки зрения, каковы некоторые из уникальных компонентов инфраструктуры поддержки, которые находятся в механизме хранения? Некоторые из особенностей включают:

  • Параллелизм: У некоторых приложений есть больше гранулированных требований блокировки (таких, как блокировки на уровне строки), чем у других. Выбор правильной стратегии блокировки может уменьшить издержки и поэтому улучшить эффективность работы. Эта область также включает поддержку таких способностей, как управление параллелизмом мультивариантов или чтение снимков.

  • Операционная поддержка: Не каждое приложение нуждается в транзакциях, но для тех, которым это надо, есть очень хорошо определенные требования, такие как ACID-соответствие и подобные.
  • Справочная целостность: сервер поддерживает реляционную базу данных и целостность через DDL-определенные внешние ключи.
  • Физическое хранение: Это вовлекает все от полного размера страницы для таблиц и индексов до формата, используемого, чтобы хранить данные на физическом диске.
  • Поддержка индексов: Различные сценарии приложения имеют тенденцию извлекать выгоду из различной логики индексов. У каждого механизма хранения вообще есть свои собственные методы индексации, хотя некоторые (такие, как индексы B-tree) характерны для почти всех механизмов.
  • Кэш-память: Различные приложения лучше отвечают на некоторые стратегии кэширования памяти, чем другие, так что, хотя некоторая кэш-память характерна для всех механизмов хранения (используется для пользовательских соединений или высокоскоростного кэша запросов MySQL), многие уникально определены именно особым механизмом хранения.
  • Производительность: Это включает многократные потоки ввода/вывода для параллельных операций, параллелизма потока, установки контрольных точек базы данных, обработку оптовых вставок и многое другое.
  • Разные целевые особенности: Это может включать поддержку географических операций, ограничения безопасности для определенных операций манипуляции данными и другие подобные особенности.

Каждый набор подключаемых компонентов инфраструктуры механизма хранения разработан, чтобы предложить набор выгод для особого приложения. Наоборот, уход от ряда составляющих особенностей помогает уменьшить ненужные затраты. Надо понимать, что понимание набора требований приложения и выбор надлежащего механизма хранения MySQL могут оказать драматическое влияние на полную системную эффективность.

Поиск

 

Найди своих коллег!

Вы можете направить письмо администратору этой странички, Алексею Паутову. mailto:alexey.v.pautov@mail.ru