也算过年积一点功德。
今天第一讲，计算精度由什么决定。
答案是，内存大小。
因为cfd模型必须全部装载到物理内存（，现在gpu计算，就是显存），不能用虚拟内存。
cfd计算的特点，是每个计算步长，都要均匀遍历内存中整个用到的部分，这意味着，如果用到虚拟内存，则内存和硬盘之间的交换会非常频繁，计算效率极低，cpu/gpu需要总是等待硬盘。
展开两个知识点：
1，设计f22的年代，国家级超算的内存大小，和现在一个工作站内存插满差不了太多。
2，现在英伟达的那个dgx工作站，之所以卖的贵，是因为16块gpu的显存统一寻址，也就是说，软件“看见”的是一个整个的gpu和整个的显存，进而不需要软件费力进行模型切割。