昨天提交论文初稿,被导师一个问题给整蒙了,你做的到底是并行计算还是分布式计算?
啥。。。。。。这TM不是一个东西?一直分布式并行计算叫着。。。。。。
于是翻阅资料,这两个还虽然有联系,但还真不是一个东西,具体总结如下:
并行计算,相对于串行计算而言,一般可分为时间并行和空间并行。时间并行可以看做是流水线操作,类似CPU执行的流水线,而空间并行则是目前大多数研究的问题,例如一台机器拥有多个处理器,在多个CPU上执行计算,例如MPI技术,通常可分为数据并行和任务并行。
而分布式计算则是相对单机计算而言的,利用多台机器,通过网络连接和消息传递协调完成计算。把需要进行大量计算的工程数据分区成小块,由多台计算机分别计算,再上传运算结果后,将结果统一合并得出最终结果。
总而言之,以上概念有点扯。。。。。。
其实目前人们比较关系并行计算和分布式计算重叠的部分,例如Hadoop,spark等等。