Комментарии к записи: Почему компиляторы не любят параллельный код? http://softwareblogs-rus.intel.com/2008/03/03/43/ Fri, 08 Aug 2008 00:10:18 +0000 http://wordpress.org/?v=2.6 Автор: vlubch http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-222 vlubch Wed, 04 Jun 2008 17:59:51 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-222 Уже сама фраза "часть программного кода" обращает на себя внимание. Правильнее говорить - часть алгоритма. Но опять же - нужно знать к какой параллельной модели и как приводить эту "часть". Вот это и нужно "четко представлять". Пока же не известен ни алгоритм (который, безусловно, по программному коду можно восстановить), ни к какой параллельной модели мы будем пытаться приводить сию "непокорную часть". Т.е., к сожалению, нет четкого представления - "что" и к "чему" ("как" - это отдельный вопрос). А не имея такого представления, сложно оценить и саму сформулированную проблему. Уже сама фраза "часть программного кода" обращает на себя внимание. Правильнее говорить - часть алгоритма. Но опять же - нужно знать к какой параллельной модели и как приводить эту "часть". Вот это и нужно "четко представлять". Пока же не известен ни алгоритм (который, безусловно, по программному коду можно восстановить), ни к какой параллельной модели мы будем пытаться приводить сию "непокорную часть". Т.е., к сожалению, нет четкого представления - "что" и к "чему" ("как" - это отдельный вопрос). А не имея такого представления, сложно оценить и саму сформулированную проблему.

]]> Автор: YuriiSig http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-204 YuriiSig Tue, 13 May 2008 14:20:48 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-204 Прежде чем что-либо распараллеливать (речь идет о десктопных компьютрах, использующих модель общей памяти), необходимо четко представлять, можно ли это "что-либо" распараллелить. Например, часть программного кода трехдиагонализации матриц, которая связана с BLAS LEVEL 2, не поддается распараллеливанию. К сожалению, на эту часть проблемы обращают мало внимания. Прежде чем что-либо распараллеливать (речь идет о десктопных компьютрах, использующих модель общей памяти), необходимо четко представлять, можно ли это "что-либо" распараллелить. Например, часть программного кода трехдиагонализации матриц, которая связана с BLAS LEVEL 2, не поддается распараллеливанию. К сожалению, на эту часть проблемы обращают мало внимания.

]]> Автор: vlubch http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-199 vlubch Mon, 28 Apr 2008 17:47:33 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-199 У него есть чем гордиться безусловно, но... Посмотрите на мой эксперимент по проверке параллельных свойств ТВВ (http://deeplab.ru/forum/topic.php?forum=6&topic=1&postid=1209194327#1209194327). TBB не прошла тест на параллелизм. Но, справедливости ради, нужно уточнить, что не сама TBB, а та основа, на котороя она базируется - многопоточное програмирование. Хотя... как отделить одно от другого (TBB и многопоточность)? У него есть чем гордиться безусловно, но... Посмотрите на мой эксперимент по проверке параллельных свойств ТВВ (http://deeplab.ru/forum/topic.php?forum=6&topic=1&postid=1209194327#1209194327).
TBB не прошла тест на параллелизм. Но, справедливости ради, нужно уточнить, что не сама TBB, а та основа, на котороя она базируется - многопоточное програмирование. Хотя... как отделить одно от другого (TBB и многопоточность)?

]]> Автор: Dmitry Oganezov (Intel) http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-190 Dmitry Oganezov (Intel) Thu, 17 Apr 2008 13:04:29 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-190 Хм, думаю что все-таки "имела место досадная оплошность", ведь ТББ моложе других упомянутых в списке продуктов... Я попробую связаться с авторами статьи и выяснить, какими путями между нами ходит информация. И большое спасибо за развернутый ответ - полагаю, Алексей сейчас гордится собой ;) Хм, думаю что все-таки "имела место досадная оплошность", ведь ТББ моложе других упомянутых в списке продуктов... Я попробую связаться с авторами статьи и выяснить, какими путями между нами ходит информация.

И большое спасибо за развернутый ответ - полагаю, Алексей сейчас гордится собой ;)

]]> Автор: В.Любченко http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-189 В.Любченко Wed, 16 Apr 2008 19:32:57 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-189 Почему TBB, а не Open MP? Речь не идет о подмене одной библиотеки другой. Именно для кластеров, думаю, последняя будет лучше. Просто потому, что пока еще последняя рассчитана именно на кластеры. А TBB предпочтительнее для программирования на отдельном узле кластера (многоядерном конечно). Хотя ничто, думаю, не мешает расширить применение TBB для кластеров, а OpenMP оптимизировать под многоядерность. Но все же лучше, когда каждому свое: TBB - узел кластера, OpenMP - уровень кластера. Я не противопоставляю одно другому. Просто несколько "задело" то, что в силу каких-то причин кто-то, планируя "будущее" параллелизма, "выплеснул" за пределы параллельных вычислений TBB. Библиотеку, которая представляет собой уже достаточно сформировавшееся решение. Библиотеку, которая не менее параллельна, чем упомянутые в анонсе библиотеки и в которую, судя по ее возможностям, было вложено, думаю, немало сил и средств. Можно и нужно, безусловно, осуждать и достоинства, и недостатки TBB, но никак не делать вид, что ее нет. Хотя бы потому, что это равносильно отрицанию определенных отличий в параллельном программировании уровня кластера и уровня узла кластера. В случае многоядерных систем последний сам становится неким «мини-кластером», но со своей спецификой параллельного программирования. И здесь нужны решения подобные TBB. Почему TBB, а не Open MP?
Речь не идет о подмене одной библиотеки другой. Именно для кластеров, думаю, последняя будет лучше. Просто потому, что пока еще последняя рассчитана именно на кластеры. А TBB предпочтительнее для программирования на отдельном узле кластера (многоядерном конечно). Хотя ничто, думаю, не мешает расширить применение TBB для кластеров, а OpenMP оптимизировать под многоядерность. Но все же лучше, когда каждому свое: TBB - узел кластера, OpenMP - уровень кластера.
Я не противопоставляю одно другому. Просто несколько "задело" то, что в силу каких-то причин кто-то, планируя "будущее" параллелизма, "выплеснул" за пределы параллельных вычислений TBB. Библиотеку, которая представляет собой уже достаточно сформировавшееся решение. Библиотеку, которая не менее параллельна, чем упомянутые в анонсе библиотеки и в которую, судя по ее возможностям, было вложено, думаю, немало сил и средств.
Можно и нужно, безусловно, осуждать и достоинства, и недостатки TBB, но никак не делать вид, что ее нет. Хотя бы потому, что это равносильно отрицанию определенных отличий в параллельном программировании уровня кластера и уровня узла кластера. В случае многоядерных систем последний сам становится неким «мини-кластером», но со своей спецификой параллельного программирования. И здесь нужны решения подобные TBB.

]]> Автор: Dmitry Oganezov (Intel) http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-187 Dmitry Oganezov (Intel) Wed, 16 Apr 2008 10:51:45 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-187 Хороший вопрос, Вячеслав! Насколько я знаю, Алексей сейчас в командировке, и мне тоже интересно его мнение... Я со своей стороны попробую связаться с автором и высянить этот вопрос "с другой стороны". Вопрос к вам - почему вы считаете, что TBB предпочтительнее OpenMP для кластеров? Хороший вопрос, Вячеслав! Насколько я знаю, Алексей сейчас в командировке, и мне тоже интересно его мнение... Я со своей стороны попробую связаться с автором и высянить этот вопрос "с другой стороны".

Вопрос к вам - почему вы считаете, что TBB предпочтительнее OpenMP для кластеров?

]]> Автор: В.Любченко http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-185 В.Любченко Tue, 15 Apr 2008 16:38:49 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-185 Здравствуйте, Алексей! Cайт PARALLEL.RU в рамках созданного совместного Центра МГУ-Intel анонсировал перспективные технологии параллельного программирования фирмы Intel (см. http://parallel.ru/russia/MSU-Intel/technology.html). Почему-то среди перечисленных средств разработки параллельных программ и поддержки многопоточного программирования не была упомянута библиотека TBB. Это досадная оплошность или ... за этим скрывается что-то иное? Скорее всего, для программирования кластерных систем TBB не рассчитана (а, с другой стороны, почему бы и нет?). Думаю, что в рамках отдельного "многоядерного узла" скорее всего предпочтительнее использовать TBB, чем упомянутые на сайте библиотеки реализации того же MPI или даже OpenMP. -- С уважением, Вячеслав Здравствуйте, Алексей!
Cайт PARALLEL.RU в рамках созданного совместного Центра МГУ-Intel анонсировал перспективные технологии параллельного программирования фирмы Intel (см. http://parallel.ru/russia/MSU-Intel/technology.html).
Почему-то среди перечисленных средств разработки параллельных программ и поддержки многопоточного программирования не была упомянута библиотека TBB. Это досадная оплошность или ... за этим скрывается что-то иное?
Скорее всего, для программирования кластерных систем TBB не рассчитана (а, с другой стороны, почему бы и нет?). Думаю, что в рамках отдельного "многоядерного узла" скорее всего предпочтительнее использовать TBB, чем упомянутые на сайте библиотеки реализации того же MPI или даже OpenMP.
--
С уважением,
Вячеслав

]]> Автор: mt2 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-141 mt2 Wed, 19 Mar 2008 07:51:14 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-141 Может, я предубежден против AMD, но я даже процессоры их не использую (только от Intel)... так что Вы подкрепили мое предубеждение :) -- Михаил. Может, я предубежден против AMD, но я даже процессоры их не использую (только от Intel)... так что Вы подкрепили мое предубеждение :)

-- Михаил.

]]> Автор: Alexey Kukanov (Intel) http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-136 Alexey Kukanov (Intel) Fri, 14 Mar 2008 11:47:41 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-136 "А была бы шерсть, были бы блохи" :) Извините, Михаил, не удержался. Кстати, Вы не видели на TopCoder-е новый параллельный контест, на сей раз от AMD? Так вот, там ограничение ещё более жёсткое - кроме C++, никакой другой язык использовать нельзя. Это к сведению, выводов из этого никаких не делаю. Про то обсуждение я помню и не раздумал; да вот времени всё никак не найду. Тем не менее, в списке задач этот пункт есть. "А была бы шерсть, были бы блохи" :)
Извините, Михаил, не удержался.
Кстати, Вы не видели на TopCoder-е новый параллельный контест, на сей раз от AMD? Так вот, там ограничение ещё более жёсткое - кроме C++, никакой другой язык использовать нельзя. Это к сведению, выводов из этого никаких не делаю.
Про то обсуждение я помню и не раздумал; да вот времени всё никак не найду. Тем не менее, в списке задач этот пункт есть.

]]> Автор: mt2 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-135 mt2 Fri, 14 Mar 2008 11:08:48 +0000 http://softwareblogs-rus.intel.com/2008/03/03/43/#comment-135 Здравствуйте, Алексей! Материал впечатляет. Но, как я уже говорил, проблема может быть не только в TBB, но и в том, что он завязан на С++ -- один из наиболее сложных языков как для программистов, так и для компиляторов. Кстати, мы с Вами договаривались обсудить возможность переноса TBB в Delphi, Вы еще не раздумали? -- Михаил (mt2). Здравствуйте, Алексей!
Материал впечатляет. Но, как я уже говорил, проблема может быть не только в TBB, но и в том, что он завязан на С++ -- один из наиболее сложных языков как для программистов, так и для компиляторов. Кстати, мы с Вами договаривались обсудить возможность переноса TBB в Delphi, Вы еще не раздумали?

-- Михаил (mt2).

]]>