跳到主要内容

简介

TQueBind绑定源逻辑位置和目的逻辑位置,根据源位置和目的位置,来确定内存分配的位置、插入对应的同步事件,帮助开发者解决内存分配和管理、同步等问题。TQue是TQueBind的简化模式。通常情况下开发者使用TQue进行编程,TQueBind对外提供一些特殊数据通路的内存管理和同步控制,涉及这些通路时可以直接使用TQueBind。

如下图的数据通路示意图所示,红色线条和蓝色线条的通路可通过TQueBind定义表达,蓝色线条的通路可通过TQue进行简化表达。

l

表1 TQueBind和TQue对于数据通路的表达

数据通路TQueBind定义TQue定义
GM->VECINTQueBind<TPosition::GM, TPosition::VECIN, 1>TQue<TPosition::VECIN, 1>
VECOUT->GMTQueBind<TPosition::VECOUT, TPosition::GM, 1>TQue<TPosition::VECOUT, 1>
VECIN->VECOUTTQueBind<TPosition::VECIN, TPosition::VECOUT, 1>-
GM->A1TQueBind<TPosition::GM, TPosition::A1, 1>TQue<TPosition::A1, 1>
GM->B1TQueBind<TPosition::GM, TPosition::B1, 1>TQue<TPosition::B1, 1>
GM->C1TQueBind<TPosition::GM, TPosition::C1, 1>TQue<TPosition::C1, 1>
A1->A2TQueBind<TPosition::A1, TPosition::A2, 1>TQue<TPosition::A2, 1>
B1->B2TQueBind<TPosition::B1, TPosition::B2, 1>TQue<TPosition::B2, 1>
C1->C2TQueBind<TPosition::C1, TPosition::C2, 1>TQue<TPosition::C2, 1>
CO1->CO2TQueBind<TPosition::CO1, TPosition::CO2, 1>TQue<TPosition::CO1, 1>
CO2->GMTQueBind<TPosition::CO2, TPosition::GM, 1>TQue<TPosition::CO2, 1>
VECOUT->A1/B1/C1TQueBind<TPosition::VECOUT, TPosition::A1, 1>; TQueBind<TPosition::VECOUT, TPosition::B1, 1>; TQueBind<TPosition::VECOUT, TPosition::C1, 1>-
CO2->VECINTQueBind<TPosition::CO2, TPosition::VECIN, 1>-

上述表格中的Cube相关数据通路建议使用Cube高阶API(如Matmul)实现,直接使用TQueBind控制会相对复杂。

下面通过两个具体的示例展示了矢量编程场景下TQueBind的使用方法:

  • 如下的编程范式示例,图中的两个队列分别绑定的是GM VECIN和VECOUT GM。

  • 如果不需要进行Vector计算,比如仅需要做格式随路转换等场景,可对上述流程进行优化,对VECIN和VECOUT进行绑定,绑定的效果可以实现输入输出使用相同buffer,实现double buffer。