还记得今年夏天让众多科研工作者“瑟瑟发抖”的 AI scientist 吗?彼时的它,作为一个由谷歌Transformer 论文作者 Llion Jones 和前谷歌研究人员 David Ha 共同创立的全自动科学研究平台,从提出研究设想、检查创新程度,再到设计实验、编写程序、再GPU上执行实验并收集结果,到最后完成论
2019年,一篇题为“ALBERT: A Lite BERT for Self-Supervised Learning of Language Representations”的工作横空出世,其中,与爱因斯坦同名的轻量级预训练语言模型“ALBERT”因以极少的参数量在 GLUE、SQuAD 2.0 与 RACE 等三个