郑墨阳说：“是，这是大势所趋。”
冯诺
叹
口气：“想起未来科技掌握在你这种人手里，
鸡皮疙瘩都起来。”
郑墨阳已经习惯这种指控，他还没做什
，自家猫已经把屎盆子扣在他头上。
叶庭看看两位家长，觉得开始有吵架
趋势，于是插话：“现在AI训练大概是3类数据，原始网页数据，专门为AI训练定制人工数据，和人类反馈。如果只用第种数据训练，后果是很可怕，网页里有性别歧视，错误信息，和极端言论，容易造成误导。”
AI像是个初涉人类社会婴儿，让它沉浸在恶劣网络环境中，相当于把个孩子放到匪徒窝里。
是问他：“那你做什？”
“通过符号知识提炼和深度神经网络生成可视化常识模型，”叶庭说，“深度神经网络就是……”
他解释三分钟，文安句话都没听懂。最后文安放弃，对绞尽脑汁找简单词叶庭说：“没事，不用解释。”
随着叶庭年级逐渐上升，文安和他共同话题越来越少，现在他们只有谈论日常生活时候，才能顺畅交流。这是正常现象，文安始终生活在小学低年级环境中。
两位家长就完全没有这个问题。
“所以第二和第三种数据是必须，它们相当于AI教科书和老师，”叶庭说，“人类需要筛选训练AI信息，然后作为老师引导它，和它交流。”
冯诺又叹口气，看向郑墨阳：“觉得这些数据都应该透明公开，怎知道你们给AI灌输什？”
郑墨阳叹口气，叶庭继续说：“想法是，生成个常识知识图谱和道德规范库，通过符号知识提炼和深度神经网络编写成模型，来训练AI，起到个刹车装置作用，避免AI走向极端。”
叶庭当然无法做出尽善尽美模型，他只是个青少年。ISEF
郑墨阳对叶庭课题很感兴趣，放下解扣子手：“常识模型？”
叶庭点点头：“AI能赢围棋世界冠军，通过律师资格考试，但在某些常识问题上，它连三岁小孩都不如。如果没有常识，过度发展人工智能会很危险。”
冯诺在旁边使劲点头：“就是。而且训练大规模AI模型，成本非常高，只有几家巨头有这个实力。这不就是把训练人工智能权利集中在少数人手里吗？怎知道这几家科技公司是怎训练模型，会拿这些模型来干什？”
郑墨阳在心中默数两秒，果然等到冯诺怀疑瞪视。
“你现在不就在投资训练AI吗？”他说。
请关闭浏览器阅读模式后查看本章节，否则可能部分章节内容会丢失。
