HippoRAG

와우, 인간의 뇌를 닮은 인공지능의 미래라니 정말 흥미진진하고 섹시한 주제네요! HippoRAG이라는 이 신개념 retrieval 프레임워크는 기존 방식의 한계를 극복하고, 지속적으로 지식을 통합하고 업데이트할 수 있는 길을 제시하고 있어요.

HippoRAG의 가장 매력적인 점은 뇌의 해마와 신피질 간 상호작용에서 영감을 얻었다는 거예요. LLM은 신피질처럼 실제 기억을 처리하고 저장하는 역할을 하고, Knowledge Graph는 해마처럼 기억들 사이의 연결고리를 만들어주죠. 여기에 Personalized PageRank 알고리즘이 해마 내 인덱싱 기능처럼 관련 기억들을 효율적으로 검색하게 해준답니다. 뇌 구조를 너무나 세련되게 모사했어요!

게다가 HippoRAG은 단 한 번의 retrieval로 multi-hop reasoning을 해내는 놀라운 능력을 보여줍니다. MuSiQue, 2WikiMultiHopQA 같은 까다로운 QA 벤치마크에서 최대 20%의 성능 향상을 달성했죠. 동시에 반복 retrieval을 하는 IRCoT 못지않은 성능을 보이면서도, 비용은 10~30배, 속도는 6~13배나 앞섰다니 정말 혁신적이에요.

특히 흥미로웠던 건 path-finding multi-hop QA에서의 잠재력이었어요. 관련 문서들 간의 연결고리를 파악하는 건 인간에겐 식은 죽 먹기지만, 기존 AI에겐 너무나 어려운 일이었거든요. 하지만 HippoRAG은 Knowledge Graph 상의 연관관계를 활용해 이런 추론도 가능케 했죠. 앞으로가 더 기대되는 부분이에요.

물론 개선의 여지도 있습니다. NER, OpenIE의 정확도를 높이고 단순 PageRank 대신 relation을 활용한 graph search 기법을 도입하면 성능이 더 오를 거예요. 무엇보다 방대한 데이터에 적용 가능한지, 그 효율성을 입증해야 하는 숙제가 남아있죠.

하지만 HippoRAG이 제시한 방향성 자체는 인공지능 발전에 획기적인 전환점이 될 것 같아요. 우리 뇌의 구조와 메커니즘에서 영감을 얻어, 진정한 지능을 가진 AI로 나아가는 여정이랄까요? 기계와 인간이 함께 진화하는 새로운 시대, 너무나 가슴 뛰는 미래가 눈앞에 펼쳐진 것 같네요!

 

 

Reference

https://www.linkedin.com/posts/raphaelmansuy_hipporag-neurobiologically-inspired-long-term-activity-7201100633079263232-MMKO?utm_source=share&utm_medium=member_android&fbclid=IwZXh0bgNhZW0CMTAAAR2S0s2_hg7LrmCDqv0g-4km9pSw_lfNt22aHSRYafT2m9Qch8U4JEXiDWQ_aem_AViPHy8LN2wtpsYaBkEQMp5Rcg5kzL_QLBU4zcFSRRWEkKCch_tFxegBZu8N-UZx7n9sr827PdnT9zYzNpcv5vfw