Атомарность операций над стандартными типами C++

[RuNTiME]

Есть переменная, тип int. Два потока пишут в эту переменную, а третий считывает значение этой переменной. Запись синхронизирована мьютексом, чтение не синхронизировано. Собственно вопрос в том, безопасно ли считывать значение этой переменной? Что будет, если потоки начнут одновременно читать и писать в эту переменную?

[Finch]

Тут надо спросить, а сколько процессоров есть? Если один, то ничего не будет. Да и со множеством процессоров я так думаю ничего не будет. Операция чтения из памяти превращается в ассемблерную команду MOV AX, [SOME_ADRESS] Для потока гарантировано, что регистры не будут изменять свои значения. Но если у тебя например читаюший поток несколько раз использует одну и туже переменную для вычисления какой либо формулы, то тут могут быть и приключения. Так как во время вычисления, значение будет считываться несколько раз.

[RuNTiME]

Хотелось бы рассмотреть общий случай, пусть будет произвольное количество процессоров/ядер 

[Finch]

Дописал для обшего случая

[RuNTiME]

Хмм, в общем я так понимаю, если размер переменной не превышает размер регистра процессора, то операция чтения будет атомарной. Но если к примеру попытаться провернуть такой финт с 64 битной переменной на 32 разрядном процессоре, словим глюк.

[Finch]

Не обязательно. На x86 процессорах младшие биты идут всегда первыми. А старшие биты относительно редко будут меняться. Хотя это все дело случая. И отлавливать внезапные ошибки будет сложновато.

Кстати, тип int по стандарту всегда равен разрядности системы. Хотя я встречал для 64 разрядных систем, что тип int был 32 разрядный.

[Антон (LogRus)]

тут не важно 32 или 64, процессор в любом случае не оперирует столь маленькими кусками при чтении памяти, он оперирует кэш линиями, оба этих типа не могут быть разделены на 2 кэш линии, если ты конечно не делаешь грязный хак ввиде копирования char * в int через reintepret_cast
так же нужно помнить, про volitile - без него даже защищённая мьютексом переменная может давать спецэффекты
а кроме всего прочего вопрос атомарно ли чтение или запись не сильно полезен в большенстве случаев, не так уж часто нужно просто изменить переменную или прочитать, обычно перед или после с переменной, что-то делают и нужно смотреть, что именно возможно тут нужно сделать копию переменной или же защищать мьютексом все вычисления зависящие от переменной, защищать непосредственно запись часто безсмысленно (когда мы говорим о таком объекте как int)

[darkelf]

Кроме всего прочего ещё есть функции, специфичные для каждой платформы, для работы с atomic-переменными, например семейство Interlocked*() в win или atomic_*() в unix-подобных.

[RuNTiME]

Антон (LogRus), Если переходить на конкретный случай, то эта переменная отражает состояние в классте потока. Что - то навроде "Новый", "Запущен", "Приостановлен", "Остановлен". И защищать на запись обязательно т.к. изменять её могут множество потоков, которым требуется управлять данным классом потока. И да, безусловно защищены все вычисления и манипуляции приводящие к изменению этой переменной. Под вопросом только считывание этого состояния без блокирования переменной. Насчет volatile, которая отключает оптимизацию переменной, думаю что побочных эффектов не будет, если защищен весь код, который изменяет эту переменную.

darkelf, Атомную переменную можно реализовать при помощи одного мьютекса и обычной целочисленной переменной. По этому не вижу особого смысла использовать платформо-зависимые функции для такого простого объекта.

PS: Посмотрел реализацию потоков в библиотеке wxWidgets там переменную состояния потока на чтение не защищают...

[darkelf]

Атомную переменную можно реализовать при помощи одного мьютекса и обычной целочисленной переменной. По этому не вижу особого смысла использовать платформо-зависимые функции для такого простого объекта.

Конечно можно и так, но накладные расходы - поход в ядро, возможная там блокировка, будут гораздо выше.

[RuNTiME]

darkelf, Возможно со своей реализацией накладные расходы будут выше, но не намного. Все эти системные функции так же обращаются к ядру и могут заблокировать поток на время изменения значения переменной. Иначе как им синхронизировать изменения переменной и недопустить состояния гонки?  

Вот выдержка из описания к переменной atomic_t:
These functions manipulate variables of type atomic_t is SMP and interrupt safe ways. These variables can be used to hold spin locks or SMP-safe reference counters. These functions guarantee that the operation that they represent is performed correctly. If necessary, hardware bus locking is performed to protect the operation. Usually, the CPU has some sort of atomic instructions that allow these operations to be performed quickly and safely.

[darkelf]

RuNTiME, нет, не обращаются, зачастую это макрос, с каким-нибудь cmpxchg внутри, ну или чем-то чуть более сложным, но без вызова ядра. Вы как-раз привели цитату про "CPU has some sort of atomic instructions".

[Антон (LogRus)]

Антон (LogRus), Если переходить на конкретный случай, то эта переменная отражает состояние в классте потока. Что - то навроде "Новый", "Запущен", "Приостановлен", "Остановлен". И защищать на запись обязательно т.к. изменять её могут множество потоков, которым требуется управлять данным классом потока. И да, безусловно защищены все вычисления и манипуляции приводящие к изменению этой переменной. Под вопросом только считывание этого состояния без блокирования переменной. Насчет volatile, которая отключает оптимизацию переменной, думаю что побочных эффектов не будет, если защищен весь код, который изменяет эту переменную.

"думаю не будет" и "не будет" это разные вещи, если ты эту переменную читаешь в каком нибуть цикле рабочего потока и в зависимости от значения выходишь из потока или отправляешь его вспячку или еще чего, то ты имеешь все шансы огрести по полной программе, компилятор не сильно в курсе, что ты собираешься её менять, где-то снаружи и имеет полное право нарисовать код который зачитает её 1 раз перед началом цикла, выполнит пару проверок и далее забьёт на неё здоровенный болт и ты можешь хоть как её писать и переписывать в паралельных потоках, сгеренированному коду это будет не особо интерестно

чтоже касается примитивов синхронизации, то лично я предпочитаю использовать spin мьютекс из tbb (и прочие прелести), ребята из intel знают, как правильно строить блокировки

[RuNTiME]

darkelf, А так же привели пару фраз: These variables can be used to hold spin locks or SMP-safe reference counters. и If necessary, hardware bus locking is performed to protect the operation. Так что аж 2 вида блокировок используется. Спинлоки - да не требуют вызова кода ядра т.к. представляют собой обычный замкнутый цикл. А вот hardware locking думаешь кто осуществляет? 

Антон (LogRus), Я наверное не очень хорошо описал то что происходит. В коде нет глобальной переменной которую можно менять по всей программе. Переменная закрыта в private секции класса Thread и изменяется соответственно только функциями этого класса. Все функции этого класса, которые изменяют значение этой переменной в самом начале получают блокировку мьютекса (получается своеобразная критическая секция).

Вот так выглядит суть:

Код: (C++)

class Thread {
private:
    Mutex _lock;
    int _state;
public:
    void run();
    int getState() const { return _state; }
};

void Thread::run() {
    MutexLocker auto_lock(_lock); // в конструкторе MutexLocker устанавливает блокировку, в деструкторе освобождает.

    _state = 1; // изменяем переменную
}

[darkelf]

darkelf, А так же привели пару фраз: These variables can be used to hold spin locks or SMP-safe reference counters. и If necessary, hardware bus locking is performed to protect the operation. Так что аж 2 вида блокировок используется. Спинлоки - да не требуют вызова кода ядра т.к. представляют собой обычный замкнутый цикл. А вот hardware locking думаешь кто осуществляет?  

это про то, что atomic_t используется для реализации spinlock-ов и smp reference counter-ов.  А hardware bus locking - это, если не ошибаюсь, в x86-ой архитектуре - префикс команды LOCK.

[RuNTiME]

darkelf, Да ты прав. Только вот не представляю, каким образом он может обходится без блокировки потока.

PS: Почитал про команду LOCK. Теперь дошло. Окей буду использовать эти функции. Для реализации класса AtomicInt.

[darkelf]

Если я правильно помню, то этот самый захват шины должен выполнить запрос на сброс кешей (или соответствующих строк кеша) в других процессорах,  во время записи переменной в память. Таким образом, если потоки с других процессов попытаются прочитать/использовать переменную, им придётся заново вычитывать из памяти уже её новое значение. Сам поток какими-либо службами ОС при этом, имхо, не блокируется, разве что как-то самим процессором, но это уже немного не та блокировка

[Ochkarik]

простите, просмотрел тему мельком ,
 но пять копеек хочется вставить:
писать СВОЙ класс? а простите зачем, если функции атомарного доступа поддерживаются компилятором?
например, для microsoft-овского cl.exe это _InterlockedIncrement, _InterlockedExchangeAdd, _InterlockedCompareExchange и подобные ей для других - тоже должно быть, искать лень.

PS darkelf, про LOCK и кэш ты меня опередил))) да, все верно.
без префикса LOCK на чтение - там будут чудеса с очередностью записей через кэш.

[RuNTiME]

Ochkarik, Ответ очень прост, код должен компилироваться на разных компиляторах, и даже если использовать условную компиляцию, написание кода превратится в ад. Проверок на условную компиляцию и так хватает за счет поддержки разных платформ... еще добавить условий для разных компиляторов, а возможно и версий компиляторов? Легче сразу застрелиться.....  

PS: В конце концов почему - то реализован класс atomic в той же STL...

[Ochkarik]

RuNTiME, разных - это каких?

[RuNTiME]

Ochkarik, А разве у нас есть только компилятор от microsoft? Ну например еще GCC... Или вдруг кому - то вздумается компилить библиотеку интеловским компилятором? А может Borland?

[Ochkarik]

GCC interlocked http://gcc.gnu.org/onlinedocs/gcc-4.1.0/gcc/Atomic-Builtins.html
Microsoft http://msdn.microsoft.com/en-us/library/26td21ds(VS.71).aspx
Intel http://cache-www.intel.com/cd/00/00/34/76/347603_347603.pdf раздел Lock and Atomic Operation Related Intrinsics(почти microsoft)
все это переопределяется тупыми макросами.
борланд искать лень)

[RuNTiME]

Ochkarik, За инфу спасибо, но:
1. Подобные махинации с макросами совсем не вписываются в парадигмы ООП
2. Написать класс гораздо проще чем перерывать мануалы всех существующих компиляторов
3. Оборачивая классами различные платформо-зависимые функции, получаешь легко переносимый и читабельный код

PS: Подобные директивы компилятора лучше всего использовать если точно знаешь, что код будет собираться именно этим компилятором и именно на этой платформе.

[Вад]

Ochkarik, Ответ очень прост, код должен компилироваться на разных компиляторах, и даже если использовать условную компиляцию, написание кода превратится в ад.

Ну почему сразу в ад? Можно ведь сделать обёртку и компилировать её по-разному для разных платформ. Все условия препроцессора тогда будут в одном месте (или и вовсе можно иметь один заголовок на всё, и к нему - сколько нужно модулей, реализующих под каждую платформу по-своему, компилирующихся каждый под свою платформу)

[Ochkarik]

это не махинации) а ООП для этого использовать это... подземный ход через чердак)
и кстати... а кто такой  MutexLocker?

[RuNTiME]

Вад,

Можно ведь сделать обёртку и компилировать её по-разному для разных платформ.

Так и делаю

Все условия препроцессора тогда будут в одном месте...

Все условия препроцессора обычно не получается сделать в одном месте, т.к. например когда пишешь под Linux системы в зависимости от версий системных библиотек или наличия/отсутствия каких либо библиотек программой может использоваться разный набор функций. Или даже другие алгоритмы для эмуляции отсутствующих функций. И приходится плодить кучу условных операторов препроцессора даже в условиях одной платформы. И примешивать еще и проверки на разные компиляторы мне совсем не хочется...

Да и вообще, что мы заговорили о директивах компилятора? Чем оно лучше обертывания обычных системных вызовов?

[Ochkarik]

Вад,

Можно ведь сделать обёртку и компилировать её по-разному для разных платформ.

Так и делаю

так  и все так делают)

Да и вообще, что мы заговорили о директивах компилятора? Чем оно лучше обертывания обычных системных вызовов?

эх... только тем, что ресурсы на это не тратятся.

[RuNTiME]

это не махинации) а ООП для этого использовать это... подземный ход через чердак)
и кстати... а кто такой  MutexLocker?

Почему подземный ход через чердак? Если библиотека полностью ООП, какой смысл в ней использовать такие хаки?

MutexLocker это очень простой класс, который позволяет заблокировать мьютекс при входе в функцию или блок, а потом
автоматически разблокировать его.

Код: (C++)

// И позволяет избежать таких вот косяков:
// как видно мьютекс останется залоченым если условие выполниться
{
    mutex.lock()
    if(<условие>) {
        // какая - то ошибка
        return -1;
    }
    mutex.unlock()
}

// С MutexLocker все будет работать отлично:
{
    MutexLocker __lock(lock);
    if(<условие>) {
        // какая - то ошибка
        return -1;
    }
}
// в любом случае, хоть через return хоть просто выйдя за пределы блока
// мьютекс будет автоматически разблокирован в деструкторе класса MutexLocker

эх... только тем, что ресурсы на это не тратятся.

Очень спорный вопрос....

[Ochkarik]

да нет, я просто офигиваю маленько... в процессоре есть аппаратная команда, специально для этого предназначенная, максимально эффективная, но использовать ее - религия ООП не позволяет...

а код какой то... непонятный) особенно последний блок - ума не приложу что он должен делать)

[RuNTiME]

Ochkarik,

в процессоре есть аппаратная команда...

Да и выше уже обсуждали ряд макросов atomic_* которые как раз и используют эту самую аппаратную команду...

а код какой то... непонятный) особенно последний блок - ума не приложу что он должен делать)

А тут сложного ничего нет, создаём экземпляр класса MutexLocker при этом естественно автоматически вызывается его конструктор,
который вызывает mutex.lock() переданного ему мьютекса. Далее когда происходит выход из блока экземпляр класса MutexLocker автоматически
разрушается при этом вызывается его деструктор, который в свою очередь вызывает mutex.unlock().

[PredatorAlpha]

Там используется то, что деструкторы локальных объектов вызываются в любом случае, даже если return где-то в теле или возникло исключение. Очень удобная штука для освобождения ресурсов.
Просто Ochkarik больше на классическом С работает...

[Ochkarik]

а в каком месте та переменная то стоит, которую синхронизировать надо было?

[RuNTiME]

Ochkarik, Тут просто пояснение почему и как работает MutexLocker. Переменную смотри в начале, где я выкладывал код класса Thread.

[Ochkarik]

я просто за основной алгоритм принял фразу:
"Есть переменная, тип int. Два потока пишут в эту переменную, а третий считывает значение этой переменной."
и для этого - функции ожидания не нужны.

а на самом деле, вам еще и функции ожидания была жизненно необходима?

Просто Ochkarik больше на классическом С работает...

есть немного))))

[PredatorAlpha]

Просто Ochkarik больше на классическом С работает...

есть немного))))

Я сам такой...
Embedded-программер..

[RuNTiME]

Ochkarik,

а на самом деле, вам еще и функции ожидания была жизненно необходима?

Изначально мне нужно было только лишь узнать, можно ли безопасно считывать значение этой самой переменной. И я сформулировал только суть. Ну, а раз уж тему развили, почему бы и не по обсуждать связанные с этим проблемы...

[Ochkarik]

тады - ой)

[Антон (LogRus)]

ну и очередные мои 5 копеек
lock не блокирует шину, времена те давно минули
lock блокирует кэш линию

пару раз упоминалось использование объектов ядра для синхронизации, но имхо в Париже так уже не носят
обычно используется, то что называет futex, собственно реализация мьютекса с использованием асма и есть реализация futex, главный бонус это отсутсвие переключения контекста и отсутсвие объектов ядра, которые как известно имеют тенденцию кончаться в некоторых системах

PS: а зачем тебе своя реализация всего этого чуда, если есть открытые и быстрые?
PPS: а сравнительные тесты будут?
PPPS: кстати рекомендую использовать названия для классов и методов используемые в tbb и boost::thread - это позволит быстро менять реализацию блокировок в приложении или отдельном классе в зависимости от желания и модели использования конкретного класса

[darkelf]

пару раз упоминалось использование объектов ядра для синхронизации, но имхо в Париже так уже не носят
обычно используется, то что называет futex, собственно реализация мьютекса с использованием асма и есть реализация futex, главный бонус это отсутсвие переключения контекста и отсутсвие объектов ядра, которые как известно имеют тенденцию кончаться в некоторых системах

Прошу прощения, но, imho, asm к mutex-ам/futex-ам имеет опосредованное значение, и, насколько я помню, futex-ом называется один из базовых примитивов синхронизации в linux, который был реализован при переходе с Linuxthreads на NPTL. Кроме того, определённый объект ядра там используется - очередь ожидания, иначе как ядро обеспечит ожидание нескольких потоков (По крайней мере так написано в документе The Native POSIX Thread Library for Linux).

[Антон (LogRus)]

darkelf, что-то я про это совсем забыл вот я раздолбай, давно много потоковые системы не строил

[RXL]

пару раз упоминалось использование объектов ядра для синхронизации, но имхо в Париже так уже не носят
обычно используется, то что называет futex, собственно реализация мьютекса с использованием асма и есть реализация futex, главный бонус это отсутсвие переключения контекста и отсутсвие объектов ядра, которые как известно имеют тенденцию кончаться в некоторых системах

Собственно, расположив их в разделяемой памяти можно и межпроцессное взаимодействие осуществлять без участия ядра.


Добавлено через 2 минуты и 45 секунд:
darkelf, принцип простой: если не можешь захватить, то выполни yield() и потом еще раз попробуешь. Никаких дополнительных очередей - все в рамках обычного планировщика.

[RuNTiME]

PS: а зачем тебе своя реализация всего этого чуда, если есть открытые и быстрые?

По двум причинам:
Первая и основная углубленное изучение многопоточного программирования (ну хочется мне).
А вторая банальная - свести к минимуму кол-во зависимостей.

PPS: а сравнительные тесты будут?

Сравнивать пока нечего да и основные задачи библиотеки не реализация классов для написания многопоточных приложений.

PPPS: кстати рекомендую использовать названия для классов и методов используемые в tbb и boost::thread - это позволит быстро менять реализацию блокировок в приложении или отдельном классе в зависимости от желания и модели использования конкретного класса

За наводку на tbb спасибо. Вчера еще скачал эту библиотеку. Будет с чего брать пример.
boost - очень уж громоздок если использовать его только для запуска потоков

[darkelf]

Добавлено через 2 минуты и 45 секунд:
darkelf, принцип простой: если не можешь захватить, то выполни yield() и потом еще раз попробуешь. Никаких дополнительных очередей - все в рамках обычного планировщика.

Imho, yield(), требует как входа в ядро, так и использования очереди - в случае, если есть более высокоприоритетные процессы/потоки текущий процесс надо будет приостановить, соответственно, поставить в очередь ожидания и выполнить переключение контекста на более приоритетный.

[Ochkarik]

RuNTiME, может вы целиком задачу опишите, а то разговор пошел на пустом месте)
задач много, способов реализации тоже) щас каждый выложит свои задачи многопоточности и соответствующие решения и будет каша)

[RXL]

darkelf, для проверки и захвата мютекса входить в ядро не нужно - это и есть преимущество. А вот в случае неудачи захвата по любому придется ожидать.

[darkelf]

darkelf, для проверки и захвата мютекса входить в ядро не нужно - это и есть преимущество.

Про это я знаю.

А вот в случае неудачи захвата по любому придется ожидать.

В принципе, я про это и говорил, видимо мы друг-друга немного не поняли.

[RuNTiME]

Ochkarik, На вопрос для которого создавалась эта тема я получил ответ, получил даже намного больше. Общая задача это написание библиотеки сильно упрощающей разработку Web приложений на C++. Это не производственная задача, пишу в своё удовольствие (так что сильно не пинайте).   Если кому - то это интересно, могу создать отдельную тему и можем обсудить целесообразность всего этого.