Lock-free multi-threading для реальных продевая нитку специалистов

текущие реализации "без блокировки" большую часть времени следуют одному и тому же шаблону:

• *прочитайте какое-то состояние и сделайте его копию**
• *изменить копию**
• выполните блокированную операцию
• повторите попытку, если это не удается

_{(*необязательно: зависит от структуры данных / алгоритма)}

последний бит жутко похож на спин-замок. На самом деле, это базовый spinlock. :)
Я согласен с @nobugz по этому поводу: стоимость блокированных операций, используемых в многопоточной блокировке, составляет преобладают задачи кэширования и когерентности памяти, которые он должен выполнять.

то, что вы получаете, однако, со структурой данных, которая является "без блокировки", заключается в том, что ваши "замки" очень мелкозернистые. Это уменьшает вероятность того, что два параллельных потока обращаются к одной и той же "блокировке" (ячейке памяти).

трюк большую часть времени заключается в том, что у вас нет выделенных блокировок-вместо этого вы рассматриваете, например, все элементы в массиве или все узлы в связанном списке как "spin-lock". Вы читаете, изменяете и пытаетесь обновить, если не было обновления с момента последнего чтения. Если да, то повторите попытку.
Это делает вашу "блокировку" (о, извините, без блокировки :) очень мелкозернистой, без введения дополнительных требований к памяти или ресурсам.
Делая его более мелкозернистым, уменьшается вероятность ожидания. Делая его как можно более мелкозернистым без введение дополнительных требований к ресурсам звучит здорово, не так ли?

большая часть удовольствия, однако, может исходить от обеспечение правильной загрузки / хранения заказа.
Вопреки интуиции, процессоры могут свободно переупорядочивать чтение/запись памяти - они очень умны, кстати: вам будет трудно наблюдать это из одного потока. Однако вы столкнетесь с проблемами, когда начнете выполнять многопоточность на нескольких ядрах. Ваша интуиция сломается: просто поскольку инструкция находится ранее в вашем коде, это не означает, что это действительно произойдет раньше. Процессоры могут обрабатывать инструкции не по порядку: и им особенно нравится делать это с инструкциями с доступом к памяти, чтобы скрыть задержку основной памяти и лучше использовать их кэш.

Майс и mights и банок и готовьтесь к худшему. - О, процессор может переупорядочить это чтение, чтобы прийти до этой записи, так что лучше всего поставить барьер памяти прямо здесь, на этом месте."

дело осложняется тем, что даже эти Майс и mights может отличаться в разных архитектурах ЦП. Это может бывает, например, что что-то такое гарантированно не случится в одной архитектуры может случиться на другой.

---

чтобы получить" без блокировки " многопоточность право, вы должны понимать модели памяти.
Получение модели памяти и гарантии правильности не является тривиальным, однако, как показано на эта история, благодаря которой Intel и AMD внесены некоторые исправления в документацию MFENCE вызывая некоторое волнение среди разработчиков JVM. Как оказалось, документация, на которую разработчики опирались с самого начала, была не столь точной в первую очередь.

блокировки в .NET приводят к неявному барьеру памяти, поэтому вы можете безопасно использовать их (большую часть времени, то есть... см., например, это Джо Даффи-Брэд Абрамс-Вэнс Моррисон величие при ленивой инициализации, блокировках, летучих веществах и памяти барьеры. :) (Обязательно перейдите по ссылкам на этой странице.)

в качестве дополнительного бонуса, вы будете познакомьтесь с моделью памяти .NET на стороне quest. :)

есть также "Олди, но Голди" от Вэнса Моррисона:Что Каждый Разработчик Должен Знать О Многопоточных Приложениях.

...и конечно, как @Eric сказано, Джо Даффи это окончательное чтение по этому вопросу.

хороший СТМ может быть максимально приближен к мелкозернистой блокировке и, вероятно, обеспечит производительность, близкую к или наравне с ручной реализацией. Один из нихSTM.NET от проекты DevLabs г

Если вы не фанат .NET-только,Дуг Леа проделал большую работу в JSR-166.
Клифф Нажмите Кнопку имеет интересный взгляд на хэш-таблицы, которые не зависят от блокировки чередования - как Java и .NET параллельные хэш-таблицы делают-и, похоже, хорошо масштабируются до 750 процессоров.

Если вы не боитесь рисковать на территорию Linux, следующая статья дает больше информации о внутренних компонентах текущих архитектур памяти и о том, как совместное использование кэш-линий может снизить производительность: что каждый программист должен знать о памяти!--21-->.

@Бен сделал много комментариев о MPI: я искренне согласен, что MPI может светить в некоторых областях. Решение на основе MPI может быть проще рассуждать о, проще в реализации и менее подвержены ошибкам, чем наполовину испеченная реализация блокировки, которая пытается быть умной. (Это, однако, субъективно также верно для решения на основе STM.) Я бы также поспорил, что на световые годы легче правильно написать приличный распределенные применение, например, в Эрланге, как показывают многие успешные примеры.

MPI, однако имеет свои собственные расходы и свои собственные проблемы, когда он запускается на одноядерная, многоядерная система. Например, в Erlang, есть вопросы, которые должны быть решены вокруг синхронизация планирования процессов и очередей сообщений.
Кроме того, в своей основе системы MPI обычно реализуют своего рода кооператив N: M планирование для "легковесные процессы". Это например означает, что существует неизбежное переключение контекста между легковесными процессами. Это правда, что это не "классический контекстный переключатель" , а в основном операция пользовательского пространства, и ее можно сделать быстро - однако я искренне сомневаюсь, что его можно подвести под 20-200 циклов блокируемая операция занимает. Переключение контекста пользовательского режима -конечно медленнее даже в библиотеке Intel McRT. N: M планирование с легкими процессами не является новым. LWPs были там в Солярисе в течение длительного времени. Они были брошены. В NT были волокна. Сейчас они в основном реликвии. Были "активации" в NetBSD. Они были брошены. Linux имел свой собственный взгляд на тему N:M нарезка резьбы. Кажется, он уже несколько умер.
Время от времени появляются новые претенденты: например McRT от Intel, или Планирование Пользовательского Режима вместе с ConCRT из Microsoft.
На самом низком уровне они делают то, что делает планировщик N: M MPI. Эрланг - или любое ЛПУ в системе, могут получить значительные преимущества на многопроцессорных системах с использованием новых UMS.

Я думаю, что вопрос OP не является о достоинствах и субъективных аргументах за / против любого решения, но если бы мне пришлось ответить на это, я думаю, это зависит от задачи: для построения низкоуровневых, высокопроизводительных базовых структур данных, которые работают на единая система С много ядер, либо методы с низким уровнем блокировки/"Без блокировки", либо STM дадут наилучшие результаты с точки зрения производительности и, вероятно, будут бить решение MPI в любое время с точки зрения производительности, даже если вышеуказанные морщины сглажены, например, в Эрланг.
Для создания чего-либо умеренно более сложного, работающего на одной системе, я бы, возможно, выбрал классическую крупнозернистую блокировку или, если производительность вызывает большую озабоченность, STM.
Для построения распределенной системы система MPI, вероятно, сделает естественный выбор.
Обратите внимание, что есть реализации MPI для .NET также (хотя они, кажется, не так активно).