众所周知,人工智能技术正在改变着世界,并已经成为真正的世纪机遇。作为一种科学思想,人工智能的起源至少可以追溯到700多年前。但是作为一项理论计算,人工智能概念的正式提出应当归功于艾伦·麦席森·图灵(Alan M. Turing)在1948年撰写但未发表的论文Intelligent Machinery以及在1950年发表的论文Computing Machinery and Intelligence。这两篇论文点燃了科学家用机器模拟人类智能的梦想,而通用智能则成为这一梦想追求的最高目标。在过去的70多年里,人工智能先后经历了狂热寒冬复兴,最终进入了平稳的发展阶段。时至今日,人工智能的概念已经深入人心。ChatGPT和元学习的异军突起,更加坚定了科学家追求通用智能的信念。
元学习的英文翻译为Meta Learning,本质是learning to learn,即学会学习。这是一种面向过程的新型高端机器学习算法,我们团队于2020年开始尝试这方面的研究和探索。作为新型高端算法,元学习的研究不仅涉及复杂模型推导,而且涉及大规模编程。在相关课题研究中,团队的编程思维和代码调试能力都经历了非常大的挑战,最终完成了一系列的算法创新。我们和学生一起探索、进步。他们作为团队的生力军,一直都是课题研究的中坚力量。现在他们都已经以优异的成绩毕业,找到了理想的工作,投入了新的研究课题。新的学生又是从零开始,团队急需引导他们形成元学习的编程思维。从编程平台搭建到开发环境配置,给学生们多一些勇气和鼓励,他们最终也将完成对大规模代码的理解与调试。
为了帮助更多的读者,本书选择以Chelsea Finn创立的模型无关元学习(MAML)算法程序为主线,为读者设计了循序渐进的阅读体验。全书共5章,第1章的联合训练问题与第2章的任务构建问题是元学习研究的基本问题,建模思路和算法思想通俗易懂,代码注释极为详细,确保读者开篇即可轻松入门。第3章的过程建模问题与第4章的输入输出问题代表了元学习研究的核心问题,因为已经有了前两章的研究基础,读者仍然可以在较短时间内收获进步的喜悦。第5章解释的应用拓展问题是元学习研究的根本问题,元学习过程与人类的学习过程比较相似,在算法程序中体现了学前准备、预习、快速学习等核心环节。
本书特色
(1) 内容通俗易懂。本书贴近初学者的实际情况,完整复现了团队在元学习算法研究初期对代码问题和算法思想的理解。对人工智能感兴趣但缺少专业指导的读者,开篇即可轻松入门,能在较短时间内收获进步的喜悦。
(2) 有趣,但不缺乏挑战。元学习过程与人类的学习过程比较相似,是非常有趣的算法。本书从最初级的算法思想开始,循序渐进地帮助初学者全方位、系统理解元学习的有趣过程。同时,也为读者留出了部分思考空间,积极引导读者尝试探索,在挑战中逐步超越自我。
(3) 既是放大镜,又是加速器。本书为读者提供了一枚放大镜。透过本书,读者将有能力解释模型无关元学习算法程序的所有细节。作为深度学习的拓展应用,元学习算法的实现涉及一系列高级编程技巧。这些编程技巧是读者成长的加速器,可以在较短时间内形成编程思维,提高编程效率。
致谢
首先对MAML算法创始人Chelsea Finn的免费授权许可深表谢意!免费授权许可包含在4.1.2节内,读者也可在随书赠送的源代码目录中查看。LICENSE文件(授权许可)的源代码目录中还包含笔者对原创者Chelsea Finn的英文致谢视频! 为表达对原创代码的充分尊重,遵照原创者Chelsea Finn的要求,现将LICENSE文件中包含的免费授权许可突出展示如下:
MIT License
Copyright (c) 2017 Chelsea Finn
Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the "Software"), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so, subject to the following conditions:
The above copyright notice and this permission notice shall be included in all copies or substantial portions of the Software.
THE SOFTWARE IS PROVIDED "AS IS",WITHOUT WARRANTY OF ANY KIND,EXPRESS OR IMPLIED,INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM,DAMAGES OR OTHER LIABILITY,WHETHER IN AN ACTION OF CONTRACT,TORT OR OTHERWISE,ARISING FROM,OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
再次感谢原创者Chelsea Finn的无私分享。这一学术精神值得敬重,同时也需要延续。
笔者团队正在开发新的元学习模型,完成后也将无偿分享给读者。
本书复现了团队在元学习算法研究初期对代码问题和算法思想的理解和部分可公开的讨论结果。这些结果得益于上海应用技术大学、中国科学院、印度国家科学院提供的研究平台,在此郑重感谢相关领导的大力支持。一部分研究生和优秀本科生曾经参与MAML算法程序的深入探讨,对他们分享的研究心得表示感谢!
感谢家人,家人的理解和支持一直是我们前行的勇气和动力。
由于编者水平有限,书中不妥或疏漏之处在所难免,欢迎读者批评指正。
编者
2024年12月