本发明适用于医学领域,提供了一种神经外科手术导航的注册方法,包括:对病人头部作CT/MR扫描获取术前图像,并分割术前图像;根据分割后的术前图像提取头部表面的两条中线;提取分割后的术前图像的表面并简化;在术中利用探针划线取点方式获取术中病人头部表面的两条中线并简化;通过高斯混合模型方法做术前点集与术中点集的配准;在术中利用探针在病人额头部位无规则划线取点并简化;在初始配准的基础上通过预设算法做术中额头部位点集与术前表面的配准,并得到最终的空间变换参数。本发明还提供了一种神经外科手术导航的注册系统。本发明所提供的神经外科手术导航的注册方法及系统能有效地提高注册精度。