2016년 서울대학교 박제근 교수 연구진이 세계 최초로 개척한 자성 반데르발스 연구 분야는 지난 10년간 눈부신 발전을 거듭하며 현재 응집물질물리학의 핵심 분야로 자리 잡았습니다.

최근 이 분야의 중요한 화두 중 하나는 모아레(moire)로 불리는 비틀린(twisted) 구조에서 나타나는 새로운 자기 위상학적 물리 현상을 탐구하는 것입니다. 물질 내부의 전도 전자가 스커미온(skyrmion)과 같은 위상학적 스핀 텍스처를 지날 때 유도되는 위상학적 홀 효과(topological Hall effect)는 자성 물질의 숨겨진 위상학적 성질을 규명하는 강력한 증거로 활용됩니다. 일반적으로 이러한 현상은 전역적인 반전 대칭(global inversion symmetry)이 깨진 시스템에서 주로 나타나며, 반전 대칭 붕괴로 인해 야기되는 잘로신스키-모리야 상호작용(Dzyaloshinskii-Moriya interaction, DMI)이 위상학적 스핀 텍스처를 안정화하는 역할을 합니다.

본 연구팀은 전역적 반전 대칭이 전반적으로 유지됨에도 불구하고, 비틀린 금속성 Fe₃GeTe₂ 시스템에서 '거대 위상학적 홀 효과(giant topological Hall effect)'가 새롭게 발현된다는 사실을 최초로 보고했습니다. 특히 이 효과는 0.45°에서 0.75° 사이의 매우 좁은 이른바 마법각(magic twist angle) 구간에서만 한정적으로 관측되며, 이 범위를 벗어나면 나타나지 않아 본 현상이 비틀림 효과에 절대적으로 의존하고 있음을 보여줍니다.

더 나아가 미시 자기구조(micromagnetic) 시뮬레이션을 통해, 이번에 관측된 위상학적 홀 효과가 국소적 반전 대칭(local inversion symmetry) 깨짐으로 인해 발생한 교대 층간 DMI가 유도한 스커미온 격자(skyrmion lattice)에서 비롯된 것임을 명확히 밝혔습니다.

이번 연구는 비틀린 Fe₃GeTe₂가 금속성 자성 반데르발스 물질 내에서 위상학적 자기 텍스처를 자유롭게 설계하고 제어할 수 있는 다목적 플랫폼임을 입증하며, 향후 차세대 스핀트로닉스 소자 개발을 위한 새로운 가능성을 열어줍니다.

The topological Hall effect, driven by the exchange interaction between conduction electrons and topological magnetic textures such as skyrmions, is a powerful probe for investigating the topological properties of magnetic materials. Typically, this phenomenon arises in systems with broken global inversion symmetry, where Dzyaloshinskii-Moriya interactions stabilize such textures. Here, we report the discovery of an emergent giant topological Hall effect in the twisted Fe3GeTe2 metallic system, which notably preserves the general global inversion symmetry. This effect manifests exclusively within a narrow window of "magic" twist angles ranging from 0.45° to 0.75°, while it is absent outside of that range, highlighting its unique and emergent nature. Micromagnetic simulations reveal that this topological Hall effect originates from a skyrmion lattice induced by alternating in-plane and layer-contrasting Dzyaloshinskii-Moriya interactions that result from local inversion symmetry breaking. Our findings underscore twisted Fe3GeTe2 as a versatile platform for engineering and controlling topological magnetic textures in metallic twisted van der Waals magnets, thereby opening up new avenues for next-generation spintronic devices.

참여연구원: 김현철, Kaixuan Zhang, 박기웅, 박제근

Link: https://www.nature.com/articles/s41467-026-69454-5