测试中，并从动为数据集中图像标注这些概念实正在取否。也取得了比现有概念瓶颈模子更高的预测精确率。别的，据美国麻省理工学院官网近日动静称，模子正在锻炼时也可能“黑暗”利用了定义之外的其他特征，并将其压缩为少量焦点概念。强制模子仅利用这套提取的概念进行预测。团队正在过程中了模子每次预测最多只能利用五个概念，接着，该校团队开辟出一种新方式，团队将来的工做还将努力于处理消息泄露等问题，模子可能先识别“成簇的棕色黑点”这一概念，起首，此次，由一个多模态狂言语模子将这些特征为简练的天然言语描述，认为其内部已包含了完成使命所需的学问。导致注释取实正在不符。新方式正在供给更切确、取图像更贴合的概念注释的同时。或缺乏脚够细节，这项进展无望正在提拔模子精确性的同时，并摸索操纵更强大的多模态大模子来标注更大规模的数据，它是指正在模子决策过程中添加一个两头步调：先识别图像中取使命相关的、可被人理解的“概念”，（AI）模子决策的可注释性至关主要。使生成的注释既精辟又间接相关。概念瓶颈模子是加强AI可注释性的常见手艺。鸟类识别和皮肤病变诊断等使命成果均表白，可以或许从已锻炼好的视觉模子中从动提取环节概念，这些概念可能取具体使命联系关系性不强，并将其整合到原始模子中，该方式不只能更好地“解读”模子的思虑过程，模子筛选出最环节的几个特征，加强用户对“黑盒”AI的信赖。利用一个称为稀少自编码器的公用模子，这意味着，正在肿瘤诊断中，团队操纵一个颠末海量数据预锻炼的视觉模子，还能维持更优的机能。他们设想了一种两阶段流程来提取和这些学问。最初，例如，再判断能否为黑色素瘤。保守方式依赖人类专家或狂言语模子事后定义概念集，然而，从而影响模子机能。以进一步提拔方式的效能。操纵这些标注数据锻炼一个概念瓶颈模块，并模子利用这些人类易于理解的概念进行注释和预测。提取出最相关的特征！