王梦迪最新论文，开发能读懂mRNA的语言模型，助力mRNA疫苗设计

yinfuhua

14岁上清华，29岁获普林斯顿终身教职，王梦迪最新论文，开发能读懂mRNA的语言模型，助力mRNA疫苗设计# L' U6 M+ E0 @4 A5 ^0 K
来源：生物世界 2024-04-15 09:28
6 V' g! H6 y% F7 k  ^! h2 @研究团队使用经过训练的UTR-LM模型创建了一个包括211个新序列的库。每个序列都被优化以实现所需功能，主要是提高蛋白质翻译效率，例如提高mRNA新冠疫苗所编码的刺突蛋白（S蛋白）。3 ~0 s1 Z, }3 e. k5 I) ^
普林斯顿大学王梦迪团队（褚晏伊、于丹为共同第一作者）在 Nature Machine Intelligence 上发表了题为：A 5′ UTR language model for decoding untranslated regions of mRNA and function predictions 的研究论文，该论文此前于2023年10月在预印本平台bioRxiv上线。
3 `% z5 ?) N$ L5 K# Z, \/ L该研究开发了一种语言模型（language model）——UTR-LM，该模型利用其语义表征能力解码mRNA的5'UTR区并预测其功能，并在此基础上生成mRNA的5'UTR序列，其中，生成的新冠病毒S蛋白的mRNA的5'UTR区，相比现有的优化的5'UTR区，能够将S蛋白生成水平大幅提高32.5%，从而帮助开发更有效的mRNA疫苗。
5 c# Z- \% e5 ]( ?
* {1 |; B. W; C0 f% R* p7 `  \ , r* o8 z: B2 B
王梦迪教授" i1 H/ V) K# @& N$ d3 f* g  T
王梦迪，14岁时考入清华大学自动化系，23岁时获得麻省理工学院（MIT）电子工程与计算机博士学位，同年加入普林斯顿大学任助理教授，29岁时获得普林斯顿大学终身教职。
6 [+ _+ L% @9 U+ Y1 |自然界中的生命都遵循一个基本法则——中心法则，即细胞生命的遗传信息从DNA向RNA再向蛋白质的流动，DNA储存了遗传信息，蛋白组负责了细胞的结构和功能，而mRNA将DNA中的遗传信息翻译为蛋白组。实际上，mRNA中只有一部分会被翻译为蛋白质，其余部分是非翻译区，发挥着调控翻译的功能。+ J9 n3 a% p5 M! r; r
5'非翻译区（5 ' UTR）是mRNA序列开头的一段区域，位于蛋白质编码序列之前。它影响着mRNA分子的稳定性、定位和翻译，在调控mRNA到蛋白质的翻译过程中发挥着至关重要的作用。2 D5 I4 P2 s* A* b
对于mRNA疫苗，控制其蛋白质产生的效率非常关键。在这项研究中，研究团队将他们开发的语言模型集中于mRNA的5'非翻译区（5′ UTR）——UTR-LM，以了解如何优化mRNA翻译效率和改进疫苗。% h2 `8 f% p9 o9 v3 c5 W& Z: s
与驱动ChatGPT等聊天机器人的大语言模型（LLM）相比，该研究开发的这个语言模型（UTR-LM）在程度上不同，前者是在互联网上数十亿页的文本上进行训练，而UTR-LM是在几十万个来自不同物种的mRNA序列上进行基于Transformer模型的预训练，并纳入了mRNA二级结构和最小自由能（MFE）等监督信息。训练后的UTR-LM模型能够准确预测mRNA的平均核糖体结合数量（MRL）、mRNA的翻译效率（TE）和表达水平（EL），还可预测mRNA非翻译区上未被注释的核糖体进入位点（IRES）。这些预测的准确率均显著高于现有工具。7 J3 L" t  k5 F# L5 i! I
' @( S  j+ r" u
5′UTR功能预测与设计的UTR-LM模型
! I/ K# V9 q9 c然后，研究团队使用经过训练的UTR-LM模型创建了一个包括211个新序列的库。每个序列都被优化以实现所需功能，主要是提高蛋白质翻译效率，例如提高mRNA新冠疫苗所编码的刺突蛋白（S蛋白）。研究团队通过实验室实验进一步验证了这些生成的序列，其中最佳序列优于现有的能够显著提高S蛋白表达效率的5'UTR序列——NCA-7d-5'UTR，将S蛋白的生产水平提高了32.5%。这一提高幅度足以对包括传染病疫苗、癌症疫在内的mRNA疫苗和疗法带来巨大推动。  d1 h8 W5 n( q5 ]- Y& t6 M
5 _' h- L/ x# W. L
对UTR-LM模型及由UTR-LM生成的5'UTR序的实验验证
9 m$ f) o3 B$ B/ U  G4 Z以前的研究已经创建了语言模型来解码各种生物序列，包括蛋白质序列和DNA序列，而UTR-LM是第一个专注于mRNA非翻译区的语言模型，其除了提高mRNA的整体翻译效率外，还能够预测序列在各种相关任务中的表现。- M0 W4 U  d% ~2 r
论文通讯作者王梦迪教授表示，创建这个语言模型的真正挑战在于让其理解可用数据的完整上下文，训练模型不仅需要具有所有特征的原始数据，还需要这些特征的下游结果。该模型的成功还指向了一个更基本的可能性——通过对少数物种的mRNA进行训练，它能够解码核酸序列，并揭示有关基因调控的新知识。基因调控是生命最基本的功能之一，掌握着解锁疾病和疾病起源的关键。像这样的语言模型可以提供一种探索基因调控的新方式。, Q/ Y; j5 [) A; m* i! W
该论文此前已于2023年10月在预印本平台bioRxiv上线。
; B7 }. O, E& U$ J) M- h
( N' K( l9 y7 H& x$ M/ |. m9 M2 H