在一个叫“比特镇”的奇妙地方，有一所特别的“机器学校”。学校里的学生都是一个个的机器学习模型，它们每天的任务就是学习数据里的知识，然后参加考试，目标是成为超级厉害的“预测小能手”。 学校的老师会给模型学生们布置两种作业：“练习题”（训练数据）和“考试题”（测试数据）。每次做完作业，老师就会用“误差”这把小尺子来衡量它们做得对不对。误差越小，就说明模型学生对知识掌握得越好。在预测房价这样的作业里，老师用“均方误差（MSE）”这把特殊的尺子来量。要是预测结果和真实房价差得少，MSE这个数值就小，就像两个好朋友靠得很近一样。而在区分垃圾邮件和正常邮件这种作业里，老师就看错误率，分错的邮件越少，错误率就越低，模型学生的表现也就越好。 有个叫“小复”的模型学生，它特别聪明，学东西很快。但它有个小毛病，就是太贪心了，总觉得学到的知识越多越好。在学习“练习题”的时候，它把每一个小细节都死死记住，哪怕是一些错误的信息（就像数据里的噪声）也不放过。结果呢，它做“练习题”的时候，几乎全对，训练误差特别小，每次都能得到老师的表扬，它可得意啦！ 可是，当老师拿出新的“考试题”时，小复就傻眼了。这些题目和“练习题”有点不一样，小复记住的那些小细节根本不管用。它的测试误差一下子变得很大，成绩变得很差。原来，小复犯了“过拟合”这个错误。它就像一个只知道死记硬背的学生，没有真正理解知识，只是把“练习题”里的特殊情况当成了通用的规律。 小复为什么会这样呢？一是它太追求复杂了，用了特别复杂的方法去学习，就像用一堆弯弯绕绕的公式去解题，虽然能把“练习题”做得很好看，但遇到新题就不行了。二是它的“练习题”太少了，就像一个人只看了几本书就觉得自己什么都懂了。在图像分类的学习中，训练集里只有几张猫和狗的图片，小复就把某张猫图片里的背景颜色当成区分猫和狗的关键，遇到新图片就分不清了。三是“练习题”里有一些错误的信息干扰了它，就像书里有一些错别字，小复却把这些错别字也当成正确的知识记住了。 过拟合给小复带来了大麻烦。有一次，学校让它帮忙诊断病人是不是生病了。因为它之前过拟合，学到了很多错误的知识，结果把健康的人当成了病人，把真正生病的人却当成了健康人，可把大家吓坏了！ 后来，老师发现了小复的问题，告诉它要改正。老师说，可以把学习方法变得简单一点，不要用那么复杂的公式；也可以多找一些不同的“练习题”来做，见更多的题型；还可以给自己一些限制，就像给自己戴上一个“紧箍咒”（正则化），不要学得太“跑偏”；另外，学习的时候不要一直学个不停，当发现自己在“练习题”上的表现已经很好，在新的“练习题”（验证集）上却没有进步时，就停下来（Early Stopping），这样就不会学太多没用的东西了。 小复听了老师的话，开始努力改正。 在小复努力改正的同时，学校里还有个叫“小简”的模型学生。小简和小复正好相反，它特别“偷懒”。学习的时候，它总是选最简单的方法，不管面对什么知识，都想用一个很简单的办法解决。而且，它选的“学习资料”（特征）也不对，总是找一些没用的信息。比如说预测学生考试成绩，它只看学生的身高体重，却不看学习时间这些重要的因素。另外，它学习的时候总是没学一会儿就觉得自己会了，训练时间很短。 这样一来，小简不管是做“练习题”还是“考试题”，成绩都特别差。它犯的错误叫“欠拟合”，就像一个没好好学知识的学生，什么都没掌握好。在电商推荐系统的学习中，小简因为欠拟合，给用户推荐的商品都是用户不喜欢的，用户们都很不满意。 老师也发现了小简的问题，告诉它要做出改变。老师说，要把学习方法升级，变得更复杂、更厉害一些；重新挑选有用的“学习资料”，给学习提供更多有价值的信息；还要多花点时间学习，调整学习的“速度”（超参数），这样才能学得更好。 小简听了老师的话，也开始努力改变自己。 经过一段时间的努力，小复和小简都有了很大的进步。小复不再贪心，学会了抓住知识的重点，不再被小细节迷惑；小简也不再偷懒，认真挑选学习资料，用更合适的方法学习。它们在后来的考试中，不管是“练习题”还是“考试题”，都能完成得又快又好，成为了机器学校里的优秀学生，帮助比特镇的居民解决了很多问题。