Форум программистов «Весельчак У»
  *
Добро пожаловать, Гость. Пожалуйста, войдите или зарегистрируйтесь.
Вам не пришло письмо с кодом активации?

  • Рекомендуем проверить настройки временной зоны в вашем профиле (страница "Внешний вид форума", пункт "Часовой пояс:").
  • У нас больше нет рассылок. Если вам приходят письма от наших бывших рассылок mail.ru и subscribe.ru, то знайте, что это не мы рассылаем.
   Начало  
Наши сайты
Помощь Поиск Календарь Почта Войти Регистрация  
 
Страниц: [1]   Вниз
  Печать  
Автор Тема: MySQL. Глюки функции CONV при работе с hex.  (Прочитано 5042 раз)
0 Пользователей и 1 Гость смотрят эту тему.
RXL
Технический
Администратор

ru
Offline Offline
Пол: Мужской

WWW
« : 10-06-2012 10:57 » 

Функция CONV(str, from, to) преобразует систему счисления.

Проверка для большого десятичного:

mysql> SELECT CONV(18446744073709551615, 10, 36);
+------------------------------------+
| CONV(18446744073709551615, 10, 36) |
+------------------------------------+
| 3W5E11264SGSF                      |
+------------------------------------+
1 row in set (0.00 sec)

mysql> SELECT CONV('3W5E11264SGSF', 36, 10);
+-------------------------------+
| CONV('3W5E11264SGSF', 36, 10) |
+-------------------------------+
| 18446744073709551615          |
+-------------------------------+
1 row in set (0.00 sec)

Прекрасно справляется. Ведь внутри себя MySQL работает с 128-битными целыми (long long в Си и BIGINT в SQL). Но вот с шестнадцатеричными почему-то ограничивается 64-мя битами:

mysql> SELECT CONV(18446744073709551615, 10, 16);
+------------------------------------+
| CONV(18446744073709551615, 10, 16) |
+------------------------------------+
| FFFFFFFFFFFFFFFF                   |
+------------------------------------+
1 row in set (0.00 sec)

mysql> SELECT CONV('3W5E11264SGSF', 36, 16);
+-------------------------------+
| CONV('3W5E11264SGSF', 36, 16) |
+-------------------------------+
| FFFFFFFFFFFFFFFF              |
+-------------------------------+
1 row in set (0.00 sec)

У меня версия 5.5.24.
В документации сказано:

Цитата
CONV() works with 64-bit precision.

Но тогда как объяснить первую часть поста?
« Последнее редактирование: 10-06-2012 11:01 от RXL » Записан

... мы преодолеваем эту трудность без синтеза распределенных прототипов. (с) Жуков М.С.
Страниц: [1]   Вверх
  Печать  
 

Powered by SMF 1.1.21 | SMF © 2015, Simple Machines