技术优势
基于白盒理论指导,打造下一代智能系统
【最大编码率降低原则(MCR²)】
通过最大化编码速率减少的原则,本研究开发了一种方法,用于学习多样化且具有高度区分性的表示形式,旨在从复杂数据集中有效提取紧凑而强大的特征,以支持更广泛的机器学习应用。(NeurIPS, 2020)
【白盒Transformer】
基于理论指导,实现了“白盒”变压器的设计,通过引入稀疏率减少技术,不仅增强了模型的透明度和可解释性,还促进了神经网络结构的优化,使得模型的内部运作机制更加清晰易懂。(White-Box Transformers via SparseRate Reduction, NeurIPS 2023)
【闭环学习】
采用闭环转录框架,结合最小化最大速率减少策略,本研究提出了一种创新方法,用于自动压缩和记忆不同模态的信息,显著提高了多模态数据处理的效率和互操作性,对推动相关领域技术发展具有重要意义。(Closed-Loop Transcription to an LDR via Minimaxing Rate Reduction, Entropy 2022)
技术能力支撑场景拓展雄心
语言只是人类对语义的表达形式,在模态转换中将丢失底层信息,相对低效,且并不准确(低正确性),忆生科技的场景拓展雄心,是在世界领先的理论架构和技术路线指导下,探索冰山之下的更大世界,让模型的应用领域不再受限于单纯以语言为核心的模型交互形式。