近期，中国科学技术大学合肥微尺度物质科学国家实验室、中国科学院强耦合量子材料物理实验室和物理系的陈仙辉教授研究组和美国密歇根大学物理系的李璐教授实验组等几个研究组合作，在强电子关联近藤绝缘体材料SmB6的表面态研究中取得重要进展，利用磁转矩测量技术在强磁场下首次观察到该体系中磁化率的德哈斯-范阿尔芬（de Haas -van Alphen）振荡，证明二维高迁移率表面态的存在。相关研究成果以“Two-dimensional Fermi surfaces in Kondo Insulator SmB6”为题发表在12月5日的国际权威杂志《科学》上（Science 346, 1208 (2014)　DOI: 10.1126/science.1250366）。 

三维拓扑绝缘体是当今凝聚态物理领域的研究热点。这类材料当中存在很强的自旋轨道耦合效应，产生能带反转并在带结构中打开能隙，而能隙中存在受时间反演对称性保护的表面电子态。由于费米面落在带隙中，并穿过具有线性色散关系的拓扑表面态，三维拓扑绝缘体的体态呈现绝缘行为，而表面则表现出有较高迁移率和不受非磁性杂质散射影响等特殊输运性质。寻找典型的三维拓扑绝缘体材料被认为是有挑战性的工作，之前被研究较多的Bi系拓扑绝缘体由于存在自掺杂效应，通常被引入体载流子而在不同程度上掩盖表面态的输运特性。近年来理论研究提出在具有强电子关联的近藤绝缘体材料中可以存在拓扑非平庸的表面态。在近藤绝缘体中，低温下局域电子和巡游电子的杂化导致费米面附近打开能隙，产生电绝缘行为。理论计算指出在T<3K 的低温下电阻出现反常饱和行为的近藤绝缘体smb6可能是具有较好体绝缘性的三维拓扑绝缘体。一些输运实验的结果表明smb6低温电阻饱和区域的输运行为被表面电子态主导。 

密歇根大学的李璐教授研究组利用灵敏度极高的磁转矩电容测量法，通过特殊设计的悬臂装置将样品的磁化强度信号转化为电容信号采集，在超强磁场下成功观测到近藤绝缘体SmB6单晶样品的磁化率量子振荡（即德哈斯-范阿尔芬效应）。通过对振荡频率随磁场方向变化情况的分析，发现该材料中存在3个二维费米面，其中两个来自立方（001）面，另一个存在于立方（101）面。由此证明SmB6当中存在对应于不同晶面的多个二维电子态。利用滤波分析方法，进一步证明这些来自表面态的振荡信号具有非零贝里曲率，从而为SmB6是三维拓扑绝缘体的理论假设提供了有力实验证据。SmB6可能会成为首个在实验上发现的强关联三维拓扑绝缘体材料，对该材料中表面态性质的研究，对于深入理解电子关联体系的物理性质具有重大意义，也是对拓扑绝缘体单电子带理论的重要补充。同时，这一工作也是首次在实验中观察到近藤绝缘体当中的磁化率振荡，证明磁转矩测量是研究体绝缘材料表面态二维费米面的有效手段。 

图示：(A)SmB6的磁转矩量子振荡信号，(B)由快速傅里叶变换方法分解出的量子振荡频率。 

陈仙辉教授课题组在该研究工作中提供了高质量单晶样品。陈仙辉教授组的博士生项子霁受国家留学基金委2012年国家建设高水平大学公派研究生项目的资助，作为联合培养博士生前往密歇根大学与李璐教授实验组合作进行实验，并参与了强磁场测量和数据处理工作。项子霁为本项工作的第二作者。这项研究得到国家重点基础研究发展计划的资助。 

（合肥微尺度物质科学国家实验室、中国科学院强耦合量子材料物理实验室、物理学院、科研部）