armv8 memory system
在armv8中,由于processor的预取,流水线, 以及多线程并行的执行方式,而且armv8-a中,使用的是一种weakly-ordered memory model,
不保证program order和execute order一致。
所以有时需要显式的执行一些指令,来order自己的代码。
armv8涉及到的优化包括:
1) multiple issue of instructions,超流水线技术,每个cycle,都会有多个issue和execute,保证不了各个指令的执行order。
2) out-of-order execution,很多processor,都会对non-dependent的指令,做out-of-order的执行,
3) Speculation,分组预测,在遇到conditional instruction时,判断condition之前,就会执行之后的instruction。
4) Speculative loads,预取,在执行上一条指令的同时,将下一条指令的数据,预取到cache中。
5) Load and Store optimizations,由于写主存的latency很大,processor可以做很多优化,write-merge,write-buffer等。
6) External memory systems,某些外部device,像DRAM,可以同时接受不同master的req,Transaction可能会被buffered,reordered。
7) Cache coherent multi-core,一个cluster中的各个core,对同一个cache的update,看到的顺序不会是一致的。
8) Optimizing compilers,编译器在编译时的性能优化,可能打乱program order。
armv8支持的memory types:Normal memory和Device memory
Normal memory,主要指RAM,ROM,FLASH等memory,这类memory,processor以及compiler都可以对program做优化,
processor还可以增加repeate,reorder,merge的操作。
在需要固定memory order的情况下,需要显式调用barrier operations,
还有一些存在address dependence的情况,processor必须能够正确处理这些情况。
Device memory,通常都是peripheral对应的memory mapped。对于该memory type,processor的约束会很多;
1) write的次数,processor内部必须与program中的相同;
2) 不能将两次的writes,reads,等效为一个;
3) 但是对于不同的device之间的memory access是不限制order的;
4) speculative是不允许的,对device的memory;
5) 在device memory中execute,也是不允许的;
Device memory的几个attribute:
1) Gather或者non-Gather,多个memory access merge为同一个single transaction,如两个byte write merge为一个halfword write
2) Reordering,同一个block中的access是否能够reorder。
3) Early Write Ack,write不写入device,通过中间buffer之后,即 return ack,是否可以。
四种device memory:
1) Device nGnRnE,最严的约束;
2) Device nGnRE,允许early
3) Device nGRE,允许reorder,early
4) Device GRE,允许gather,reorder,early
Memory attribute,arm系统中,memory都被分为各个region,每个region都有自己的privilege level,memory type,cache policy;
这部分的管理是由MMU,来实现的,各个region都对应其中的一个或几个block、page。
对于normal memory,有shareable和cache property;
对于device memory,总是non-cacheable,outer-shareable,
shareable,用来指定这个location是否是与其他的core,共用的,share的。share的core之间需要保证coherency。
non-shareable,典型应用在AMP,有自己的独自cache,
inner,主要指processor自己的cache,在big-little中,表现为一个cluster,(还是取决于具体实现)
outer,主要指processor外的cache,在big-little中,表现为两个cluster,(还是取决于具体实现)
system,整个system的master,可能会包含GPU等
ARM架构中,包括几个barrier instruction,用来force一定的memory order,但是这样的指令,会减小一些软件的优化性能;
所以最好在需要的时候,再加这样的指令。
1) Instruction Synchronization Barrier(ISB),保证当前的pipeline中没有数据,ISB指令之前的指令都已经执行结束;
多用在context-switching code,cache control等。
2) Data Memory Barrier(DMB),保证所有data access的指令,load,store,在DMB指令之前都已经执行结束。
并不妨碍instruction的fetch。
3) Data Synchronization Barrier(DSB),等待某一类的指令结束,包括data access,instruction fetch。还会等待所有的
由该processor发起的cache,tlb,BP maintenance操作都已经完成,
DSB指令会直接stall processor,DMB不会,instruction仍然是可以执行的。
DMB和DSB,都可以加params,指定某些domain,load/store,
store-store,load-load,any-any指相应的乱序类型。
one-way barriers,AARCH64提供了一组显式指定before、after的指令,Load-Acquire,Store-Rlease,
Load-Acquire(LDAR),所有的load,store,完成之后,才开始执行,LDAR之后的指令开始执行。
Store-Release(STLR),所有的load,store,在STLR执行之后,才开始执行。