快了一个0！Meta祭出150亿参数蛋白质大模型，碾AlphaFold2

时间：2024-11-01 12:21:33

0年5月）验证集上完成比较。

当只给单一输出时，ESMFold的乏善可陈要比Alphafold 2好得多。

而当使用完整的管道时，AlphaFold2在CAMEO和CASP14上分别达到了88.3和84.7。ESMFold在CAMEO上得到了与RoseTTAfold较为的精确率，其平均TM分数为82.0。

假设

分析技术人员见到，以无监督求学为目标的口语数学模型在一个大型的进化专业化的细胞内讯息库系统之中培训，必须对细胞内本体完成质子级的灵敏度得出。

将口语数学模型的值扩大到15B，就可以系统地分析需求量对细胞内本体求学的影响。

我们认出，细胞内本体得出的非线性双曲线是数学模型需求量的数组，并且仔细观察到了口语数学模型对的了解程度与本体得出二者之间的反感联系。

ESM-2前传的数学模型是迄今为止培训的第二大的细胞内口语数学模型，其值仅比最近开发的第二大文本数学模型少一个总能量。

而且，ESM-2比从前的数学模型有非常大的加以改进，即使在150M的值下，ESM-2也比ESM-1代口语数学模型在6.5亿的值下捕捉到不够精确的本体图。

分析技术人员说明，ESMFold效率的第二大驱动力是口语数学模型。由于口语数学模型的迷惑性和本体得出的精确性二者之间有很强的联系，他们见到当ESM-2能较佳地了解细胞内时，就可以取得与目前最很低效率的数学模型较为的得出结果。

ESMFold取得了精确的质子灵敏度本体得出，解答间隔时间还比AlphaFold2慢了一个总能量。

在实践之中，速率的优势甚至还要不够大。因为ESMFold不并不需要更为重要字和进化无关的来构建MSA。

虽说有不够慢的方法有可以减低更为重要字间隔时间，但再怎么减低还是也许会很长。

而解答间隔时间的巨大缩短随之而来的利好不言自明——速率的提很低将使绘制大型元遗传物质学讯息库系统的本体空间成为也许。

除了基于本体的工具来识别系统远端同源性和保护性之外，用ESMFold完成慢速精确的本体得出，还能在大量新集合的本体和基本功能分析之中发挥重要作用。

在有限的间隔时间内取得数以百万计的得出本体，有利于见到对天然细胞内的广度和多样性的新认识，并能见到全新的细胞内本体和细胞内基本功能。

作者讲解

本文的合作一作是来自Meta AI的Zeming Lin。

据个人主页讲解，Zeming在纽约大学进修博士学位，并在Meta AI担任分析工程师（访问），主要专责后端基础设施的工作。

他本硕都就读于弗吉尼亚大学，在那里，他和Yanjun Qi大哥先是做有关机器求学应用的分析，尤其是在细胞内本体得出上都。

感兴趣的各个领域为深度求学、本体得出，以及讯息生物学。

参考资料：

。