네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[관련기사]

[관련키워드]

네이버 AI ASF 안전성 글로벌 최수연 소버린 하이퍼클로바X

GAM - 해외주식 투자 도우미

[미국 특징주] 보잉 6% 급등...미국 연방항공청, 737 맥스 7 승인

브로드컴, EU 반독점 당국의 美 법률문서 요구 정지 신청 '기각'

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

'300억 사기' 차가원 구속 [서울=뉴스핌] 박민경 기자 = 약 300억원 규모의 사기 혐의를 받는 차가원 원헌드레드 대표가 3일 구속됐다. 서울중앙지법 부동식 영장전담 부장판사는 이날 특정경제범죄가중처벌등에관한법률 위반(사기) 혐의를 받는 차 대표의 구속 전 피의자 심문(영장실질심사)을 진행한 뒤 "증거인멸의 염려가 있다"며 구속영장을 발부했다. 차 대표는 자신이 운영하는 연예기획사 소속 연예인의 지식재산권(IP)을 활용한 사업을 주식회사 노머스에 제안해 계약을 체결하고 선수금 242억원을 받았으나, 실제 사업을 이행하지 않는 등 혐의를 받는다. 수사기관이 파악한 차 대표의 각종 사기 혐의에 대한 총 피해 규모는 약 300억원으로 알려졌다. [서울=뉴스핌] 류기찬 기자 = 300억원대 사기 혐의를 받는 차가원 피아크그룹 회장 겸 원헌드레드 대표가 3일 오전 서울 서초구 서울중앙지방법원에서 열린 구속 전 피의자 심문(영장실질심사)에 출석하고 있다. 2026.08.03 ryuchan0925@newspim.com 경찰은 차 대표가 기존 업체와의 계약관계 등을 제대로 알리지 않은 채 사업을 제안했으며, 계약 당시부터 사업을 이행할 의사나 능력이 부족했던 것으로 의심하고 있다. 앞서 경찰은 차 대표에 대한 구속영장을 두 차례 신청했으나, 검찰은 보완수사를 요구하며 영장을 반려했다. 이에 경찰은 검찰과 협의해 차 대표에 대한 계좌 추적, 계약 관계 분석 등 추가 수사를 한 뒤 세 번째 구속영장을 신청했고, 검찰은 지난달 28일 법원에 구속영장을 청구했다. 차 대표 측은 경찰 단계에서부터 혐의를 전면 부인했다. 원헌드레드를 둘러싼 각종 의혹은 적대적 인수합병(M&A) 과정에서 제기된 것이라는 취지로 주장한 것으로 전해졌다. 차 대표의 변호인인 현동엽 법무법인 화금 변호사는 앞서 "본건은 사실관계상으로나 법리적으로나 사기가 성립되지 않고 다툼의 여지가 많은 사안이므로 법원에서 충실히 구속할 사유가 없음을 소명할 계획"이라며 "법원에서 구속영장에 대한 기각결정을 받아 경찰의 무리한 구속영장 신청 및 수사에 종지부를 찍겠다"고 밝힌 바 있다. pmk1459@newspim.com 2026-08-03 22:55

사진

실거주 아니면 세금 껑충 [서울=뉴스핌] 최현민 기자 = 정부가 내년부터 실거주 1가구 1주택자의 종합부동산세 기본공제액을 현행 12억원에서 14억원으로 높이는 내용의 세제개편안을 내놨지만, 정부안대로 시행될 경우 서울 주요 고가주택 소유자의 보유세는 큰 폭으로 늘어날 것으로 보인다. 일정 금액을 넘는 고가주택은 공정시장가액비율과 종부세율이 함께 오르는 데다 세액공제 한도까지 신설되기 때문이다. 내년 공시가격 상승률이 올해의 절반 수준으로 둔화한다고 가정해도 세액공제를 적용하지 않은 서울 주요 고가 아파트의 보유세는 올해보다 49~71% 늘어나는 것으로 나타났다. 비거주 1주택자는 기본공제액이 9억원으로 줄어들면서 은마아파트와 잠실주공5단지 등 일부 주택의 보유세가 두 배 수준으로 증가할 전망이다. [AI일러스트 = 최현민 기자] ◆ 실거주 1주택 공제 14억으로…고가·비거주·다주택 과세 강화 3일 부동산업계에 따르면 이번 세제개편안이 시행될 경우 기본공제가 확대되더라도 서울 주요 고가주택 실거주 1주택자의 보유세는 상당 폭 늘어날 전망이다. 현행 1가구 1주택자의 종합부동산세 기본공제액은 12억원, 공정시장가액비율은 60%다. 개편안이 시행되면 실제 거주하는 1가구 1주택자의 기본공제액은 14억원으로 늘고 공정시장가액비율은 내년부터 70%로 오른다. 이에 따라 시가 약 20억원, 공시가격 14억원 수준까지는 종부세가 부과되지 않는다. 정부는 실거주 1주택자의 경우 시가 약 20억~30억원 구간에서 종부세 부담이 낮아질 것으로 보고 있다. 다만 실제 세 부담은 연령과 거주기간, 공시가격 등에 따라 달라질 수 있다. 반면 시가 30억~40억원 구간의 세액 변동을 제한하고, 40억~50억원을 넘는 주택부터 세 부담을 정상화한다는 방침이다. 다만 연령과 보유·거주기간에 따라 시가 35억원 수준부터 세 부담이 늘어나는 사례도 나타난다. 비거주 1가구 1주택자의 기본공제액은 현행 12억원에서 9억원으로 축소된다. 다주택자는 4억원을 기본으로 공제하고 추가 공제액 5억원은 전체 주택 공시가격에서 실제 거주하는 주택이 차지하는 비중에 따라 차등 적용한다. 종부세 세액공제도 보유기간보다 실제 거주기간을 중시하는 방향으로 바뀐다. 내년에는 기존 보유기간 공제율을 절반으로 줄이고, 보유기간 공제율과 거주기간 공제율 가운데 높은 공제율을 적용한다. 양도소득세 장기보유특별공제 역시 거주 중심으로 개편된다. 현재 1가구 1주택자는 보유기간과 거주기간에 각각 연 4%씩 최대 40%를 적용받아 양도차익의 최대 80%를 공제받을 수 있다. 2028년부터는 보유기간 공제율이 연 2%·최대 20%로 낮아지고 거주기간 공제율은 연 6%·최대 60%로 높아진다. 2029년부터는 보유기간 공제를 없애고 거주기간에 대해서만 연 8%씩 최대 80%를 공제한다. 장기보유특별공제 한도도 2028년 20억원, 2029년부터 10억원으로 제한된다. 정부 사례에 따르면 12억원에 취득한 주택을 10년간 보유하고 2년간 거주한 뒤 32억원에 매도할 경우 양도소득세 산출세액은 2027년 2억3600만원에서 2028년 3억2000만원, 2029년 4억 500만원으로 늘어난다. 25억원에 취득한 주택을 10년간 보유·거주한 뒤 75억원에 매도하는 사례도 장기보유특별공제 한도 신설로 산출세액이 2027년 3억1600만원에서 2028년 9억2300만원, 2029년 13억7300만원으로 증가한다. 장기간 거주했더라도 양도차익이 큰 초고가주택은 공제한도 적용으로 양도세 부담이 커질 수 있다는 의미다. [AI일러스트 = 최현민 기자] ◆ 고가 1주택 보유세 49~71%↑…비거주 은마·잠실은 두 배 우병탁 신한은행 프리미어패스파인더 전문위원에게 의뢰한 보유세 시뮬레이션에 따르면 서울 주요 단지 보유세는 최대 70%대까지 오를 것으로 전망됐다. 내년 공시가격 상승률이 올해 상승률의 절반 수준으로 둔화한다는 가정 아래 재산세와 종부세, 지방교육세, 농어촌특별세 등을 합산했다. 연령과 보유·거주기간 등에 따른 종부세 세액공제는 적용하지 않았다. 용산구 한남더힐의 보유세는 올해 7632만8650원에서 내년 1억3027만8043원으로 5394만9393원(70.7%) 늘어나는 것으로 추산됐다. 서초구 반포자이 전용면적 84㎡의 보유세는 올해 1809만6962원에서 내년 2763만9762원으로 954만2800원(52.7%) 증가하는 것으로 나타났다. 아크로리버파크 전용 84.97㎡는 2226만8466원에서 3333만2209원으로 49.7% 증가할 것으로 추정된다. 같은 단지 전용 112.96㎡는 3815만6682원에서 6141만5590원으로 2325만8908원(61.0%) 증가할 것으로 추산됐다. 래미안퍼스티지 전용 84.93㎡는 1904만6835원에서 2986만526원으로 56.8%, 래미안대치팰리스 전용 84.97㎡는 1503만1458원에서 2356만5600원으로 56.8% 증가할 것으로 보여진다. 잠실주공5단지 전용 82.61㎡는 1257만6528원에서 2078만9447원으로 821만2919원(65.3%) 늘어날 것으로 예상된다. 은마아파트 전용 84.43㎡도 1003만5738원에서 1630만8631원으로 627만2893원(62.5%) 늘어날 전망이다. 공시가격 상승뿐 아니라 세제개편 자체가 보유세를 끌어올리는 효과도 컸다. 내년 공시가격에 현행 제도를 적용할 경우 반포자이 전용 84㎡의 보유세는 2228만5064원이지만 개편안을 적용하면 이보다 약 535만원 많아진다. 아크로리버파크 전용 112.96㎡는 현행 제도 납부액인 4551만2683원보다 약 1590만원, 한남더힐은 현행 제도의 8789만8781원보다 약 4238만원 더 부담하는 것으로 추산됐다. 비거주 1주택자의 세 부담은 더 커진다. 잠실주공5단지 전용 82.61㎡의 내년 보유세는 실거주 1주택자일 경우 2078만9447원이지만 비거주자는 2520만3638원으로 441만원가량 많다. 올해와 비교한 비거주자의 증가율은 100.4%로 보유세가 두 배로 늘어난다. 은마아파트 전용 84.43㎡도 거주자는 내년 1630만8631원을 부담하지만 비거주자는 2045만2758원으로 414만원가량 많다. 올해 대비 증가율은 103.8%에 달한다. 래미안대치팰리스 전용 114.17㎡는 거주 여부에 따라 내년 보유세가 4045만8995원과 4780만8508원으로 735만원가량 차이가 났다. 도곡렉슬 전용 120.82㎡는 554만원, 한남더힐 전용 235.31㎡는 1058만원가량 격차가 벌어진다. 다만 실제 납부세액은 소유자의 연령과 거주기간 등에 따라 달라질 수 있다. 정부가 제시한 사례에서는 공시가격 30억원, 시가 약 45억원인 주택에 70세 소유자가 10년 동안 거주한 경우 보유세가 올해 916만3000원에서 내년 961만7000원으로 약 5% 증가했다. 같은 기간 보유했지만 거주하지 않은 경우 내년 보유세는 1376만원으로 약 50% 늘어났다. [AI일러스트 = 최현민 기자] ◆ 은마·잠실 2주택자 내년 80%↑…2030년 보유세 2.6배 다주택자는 기본공제 축소와 공정시장가액비율 인상, 종부세율 조정이 동시에 적용되면서 보유세 부담이 가파르게 늘어날 전망이다. 시뮬레이션은 내년 이후 공시가격 상승률이 단계적으로 둔화한다는 가정 아래 2030년까지의 보유세를 계산했다. 실제 거주하는 주택과 주택이 있는 지역, 보유 주택 수에 따라 기본공제액과 공정시장가액비율을 달리 적용했다. 은마아파트와 잠실주공5단지를 보유한 2주택자의 보유세는 올해 4487만5005원에서 내년 8101만9657원으로 3614만4652원(80.5%) 증가하는 것으로 나타났다. 2028년에는 보유세가 1억449만6198원으로 처음 1억원을 넘어서고 2030년에는 1억1646만662원까지 늘어난다. 2030년 보유세는 올해보다 159.5% 많아 약 2.6배 수준에 이른다. 잠실주공5단지와 고덕래미안힐스테이트를 보유한 2주택자의 보유세도 올해 3075만 801원에서 내년 5349만2694원으로 2274만1893원(74.0%) 증가한다. 2030년에는 7696만5978원으로 올해의 2.5배 수준이 된다. 상대적으로 주택가격이 낮은 다주택자도 부담이 늘어난다. 마포래미안푸르지오와 대전 유성죽동푸르지오를 보유한 2주택자의 보유세는 올해 약 918만원에서 내년 약 1487만원으로 62.0% 증가한다. 2030년에는 약 2162만원으로 올해보다 135.5% 늘어날 것으로 추산됐다. 3주택자는 절대적인 세 부담 증가액이 더 컸다. 아크로리버파크와 은마아파트, 잠실주공5단지를 보유한 경우 보유세는 올해 2억127만5512원에서 내년 2억8266만9935원으로 8139만4423원(40.4%) 증가한다. 2028년에는 3억4932만321원으로 늘어나고 2030년에는 3억6204만8921원까지 상승한다. 공시가격 상승률이 점차 낮아진다는 가정에도 2030년 보유세가 올해보다 약 80% 증가하는 셈이다. 마포래미안푸르지오 1채와 대전 유성죽동푸르지오 2채를 보유한 3주택자는 올해 보유세가 약 1212만원에서 내년 약 2095만원으로 72.8% 증가한다. 2030년에는 약 3114만원으로 올해보다 156.9% 늘어날 것으로 예상됐다. 세제개편안이 거주 중저가 1주택자의 부담을 낮추는 대신 고가주택과 비거주 주택, 다주택자의 과세를 강화하는 방향으로 설계된 만큼 보유 주택의 가격과 수, 실제 거주 여부가 향후 보유세 부담을 가르는 핵심 기준이 될 전망이다. min72@newspim.com 2026-08-03 18:00