石墨烯是一种由碳原子组成的、形成蜂窝状晶格的单层二维材料，通常具有半金属的性质。当两个单层石墨烯相互堆垛到一起，并且相互之间有一个小角度的旋转，这时体系会由于转角产生具有长周期的摩尔条纹，形成摩尔超晶格体系（图1）。在这样的摩尔超晶格下，原本具有半金属性的石墨烯展现出一系列新奇的物性，包括超导性、量子反常霍尔效应、轨道磁性、以及关联绝缘性等等。这些新奇的现象不仅仅在双层的转角石墨烯中存在，在多层的转角石墨烯体系中也广泛存在。例如，人们在三层、四层的转角石墨烯体系中观测到了量子反常霍尔效应（一种具有量子化霍尔电阻的新奇输运现象）、由电子关联效应驱动的绝缘态、以及电荷在实空间具有指向性的排列现象（称为向列序）。这一系列新奇的现象值得在理论上深入研究，探索背后深刻的物理机制。
刘健鹏课题组利用连续模型、非约束平均场计算、拓扑能带论等方法，系统研究了转角多层石墨烯体系中的各类新奇量子物态。研究发现，只考虑电子之间长程库仑相互作用时，在有限位移电场下，当体系的能带为1/2填充时，转角多层石墨烯体系具有两个相互竞争的基态，分别为拓扑平庸的自旋极化态和拓扑非平庸的谷极化态构成，二者能量几乎相同。研究还证明了这种准简并现象源于体系中电子波函数的内禀特征。另一方面，在这类转角石墨烯体系中，当两个电子在同一个碳原子上时，会具有库伦排斥作用，称为Hubbard 相互作用。这种Hubbard相互作用则使得这些体系更加倾向形成拓扑平庸的自旋极化态。这一点跟多个实验观测结果相符合。研究进一步指出这种自旋极化态呈现出破坏三重旋转对称性的向列序特征。进一步，在较弱的面外磁场调控下，由外磁场导致的轨道塞曼效应和电荷密度变化会与Hubbard相互作用彼此竞争，引发从拓扑平庸的自旋极化态到谷极化的量子反常霍尔态的相变。这一预测亦被后来的实验观测证实。
该项研究探讨并揭示了转角多层石墨烯体系中新奇的电子库伦相互作用效应以及非平庸能带拓扑效应，证明了该体系具有丰富的、且外场可调节的新奇量子态。研究中所讨论和预测的量子反常霍尔态、自旋极化态、向列序、磁场诱导拓扑相变等一系列内容均与实验观测符合，或被实验证实，为该领域的研究提供了新的理论支持。该成果以“Spin polarized nematic order, quantum valley Hall states, and field tunable topological transitions in twisted multilayer graphene systems”为题发表于《物理评论快报》（Physical Review Letters）。上海科技大学物质学院博士后张世豪为第一作者，刘健鹏教授为通讯作者。合作者包括香港科技大学戴希教授。上海科技大学为第一完成单位和通讯单位。
在另外一项研究中，刘健鹏课题组与山西大学韩拯教授、北京大学叶堉教授等学者合作，研究了另外一种石墨烯摩尔超晶格体系，即氮化硼/石墨烯/氮化硼摩尔异质结体系。在该体系中，当摩尔超晶格中电子填充数目为-5、-6、-7时，实验上观测到了跟转角石墨烯体系类似的关联绝缘态。刘健鹏课题组从理论上解释了这些关联绝缘态的形成机制，指出该体系正是得益于谷间相干态的辅助才打开了能隙。该项工作为石墨烯摩尔异质结体系的关联物态研究提供了重要指导作用，成果以“Correlated states in doubly-aligned hBN/graphene/hBN heterostructures”为题发表于Nature Communications。
