bioRxiv｜让大模型读懂DNA的生命编码

本文介绍了Genomic Tokenizer（GT）这一创新方法，旨在解决DNA序列分析中的分词问题。传统方法如字符级分词和k-mer分词存在捕捉长程依赖或计算成本高等问题。GT通过将分子生物学规则嵌入分词过程，如将同义密码子映射为同一ID，显著提高了模型的生物学意义解析能力。实验表明，GT在长序列任务中表现稳健，计算效率介于字符分词器和BPE分词器之间。GT的优势在于将领域知识转化为模型先验，适用于基因编码相关任务，但也需根据任务目标权衡分词策略。