BioMedGPT介紹
日前,清華智能產(chǎn)業(yè)研究院(AIR)開源輕量版BioMedGPT1.6B。據(jù)悉,BioMedGPT-1.6B是一個參數(shù)為16億的生物醫(yī)藥領(lǐng)域輕量級科研版基礎(chǔ)模型,具有跨模態(tài)與知識融合的特點,可以處理藥物性質(zhì)預(yù)測、自然語言類、跨模態(tài)等多種任務(wù)。
BioMedGPT-1.6B是清華智能產(chǎn)業(yè)研究院(AIR)團隊正在做的BioMedGPT的單機輕量版,后者是一個適用于生物醫(yī)藥領(lǐng)域研發(fā)的通用大模型。
BioMedGPT-1.6B的開源是為了小試牛刀,同時讓行業(yè)相關(guān)科研人員有東西可用。
項目特點
BioMedGPT-1.6B是一個具備多個輸入Encoder的模型,可以處理分子、蛋白質(zhì)和文獻等多個模態(tài)的輸入,是首個將多模態(tài)知識引入模型的生物醫(yī)藥領(lǐng)域基礎(chǔ)模型。
它可以將不同模態(tài)的輸入進行統(tǒng)一表示處理,學(xué)習(xí)到不同模態(tài)之間的關(guān)聯(lián)知識,具有“融會貫通”的能力。
BioMedGPT-1.6B的開源標志著生物醫(yī)藥領(lǐng)域的基礎(chǔ)大模型正在逐漸成形。這個模型具有跨模態(tài)與知識融合的特點,可以增強模型的泛化能力和可解釋性。
開源地址:https://github.com/BioFM/OpenBioMed