多任务学习之MMOE模型怎么给m布置任务
模子 (a) 最为常见，两个使命间接共享模子的 bottom 部门，只正在最初处置时做区分，图 (a) 外利用了 Tower A 和 Tower B，然后别离接丧掉函数。函数表达式：
模子 (b) 是常见的多使命进修模子。将 input 别离输入给三个 Expert，但三个 Expert 并不共享参数。同时将 input 输出给 Gate，Gate 输出每个 Expert 被选择的概率，然后将三个 Expert 的输出加权乞降，输出给 Tower。无点 attention 的感受。函数表达式：