정부의 ‘추천 알고리즘 규제’는 ‘토끼굴’에 빠진 청소년을 구할 수 있을까
페이지 정보
본문
고등학교 1학년 김민정양(가명·16)은 1년 전부터 학업 스트레스를 풀기 위해 숏폼 영상을 봤다. 점차 휴대폰을 붙들고 있다가 새벽 2~3시에야 잠드는 날이 늘었다. 다이어트 숏폼을 본 이후로는 화면 속 인플루언서와 자신을 비교하며 점심도 걸렀고, 한 번에 수십만 원 어치 다이어트 보조제를 사는 일도 잦아졌다. 김양은 결국 지난 5월 부모와 상담소를 찾았다.
김양은 “영상에는 몇 주 만에 몇 킬로씩 살을 뺐다는 사람들이 계속 나오는데, 이를 볼수록 초조해졌다”며 “내가 보고 싶은 영상을 선택한다고 생각했는데, 어느 순간부터는 추천되는 영상을 멈추지 못하고 계속 보게 됐다”고 말했다.
정부가 이런 ‘알고리즘 중독’을 겨냥한 규제 카드를 꺼내 들었다. 온라인 플랫폼이 이용자에게 무엇을 어떤 순서로 추천하는지 그 설계 방식에 손을 대겠다는 것이다. 미국과 유럽연합(EU)이 추천 알고리즘·자동재생 등을 ‘중독성 설계’로 보고 잇달아 제동을 건 흐름을 따라가는 조치다. 다만 업계에서는 규제 대상과 기준이 불분명한 채로는 허울뿐인 규제에 그칠 수 있다는 지적이 나온다.
‘당신이 원하는 콘텐츠를 먼저 찾아 보여줍니다’. 플랫폼이 내세우는 추천 알고리즘의 기능이다. 이용자가 관심 있을 만한 콘텐츠를 먼저 찾아서 보여주고 이용자가 ‘탐색할 시간’을 줄여준다는 것이다. 넷플릭스·유튜브·스포티파이 등 글로벌 플랫폼 기업들은 이런 추천 알고리즘을 핵심 엔진으로 삼아 성장했다.
작동 방식은 단순하다. 우선 이용자가 고른 관심사나 초반 이용 기록을 바탕으로 보여줄 만한 콘텐츠 후보를 추린다. 이어 콘텐츠마다 끝까지 볼 확률, ‘좋아요’를 누를 확률, 공유할 확률 등을 각각 예측한 뒤 플랫폼이 정한 가중치를 곱해 점수를 매긴다. 이 점수 순서대로 화면에 콘텐츠가 나온다.
알고리즘이 측정하는 것은 이용자의 ‘관심’이다. 통상 호기심이나 불안 때문에 오래 본 영상도 ‘선호’로 계산될 수 있다. 플랫폼들은 이 과정에서 유해 콘텐츠를 걸러내는 자정장치를 두고 있다고 항변하지만 알고리즘이 공개되지 않는 한 이를 검증하긴 어렵다. 이용자의 체류 시간이 길어질수록 광고 노출도 늘어나고, 플랫폼의 수익도 증가한다. 플랫폼이 알고리즘 규제에 소극적이라는 의심을 받는 이유다.
오세욱 선문대 미디어커뮤니케이션학부 교수는 “문제는 이 알고리즘이 이용자가 자극적인 콘텐츠를 ‘오래 봤다’는 신호는 잡아내지만, 그 콘텐츠가 불법 정보인지 허위 정보인지까지 판단하기는 어렵다는 것”이라고 말했다.
전문가들은 이 알고리즘이 이용자의 관심을 증폭시킨다는 점에 주목한다. 독일 막스플랑크 인간개발연구소 실험 결과, 이용자가 관심 분야 영상 13개쯤을 시청한 시점부터 알고리즘은 비슷한 주제를 집중적으로 몰아주기 시작했다. 관심 분야 콘텐츠가 늘수록 접하는 해시태그의 다양성도 줄었다. 콘텐츠 하나를 따라갔다가 비슷한 콘텐츠 속으로 계속 깊이 빠져드는 이른바 ‘토끼굴’ 현상이다. 김은희 고려대 사범대학 겸임교수(김은희진로·심리상담연구소 소장)는 “이용자는 자유롭게 선택한다고 생각하지만 실제로는 플랫폼이 정한 순서에 수동적으로 반응한다”고 지적했다.
이른바 ‘무한 스크롤(콘텐츠가 끝없이 이어지는 것)’과 자동 재생도 ‘토끼굴 현상’을 키운다. 다음 영상을 볼지 판단할 틈을 없애 이용자의 뇌를 일종의 ‘자동조종 모드’로 옮기는 것이다. 이런 구조는 자기통제 능력이 발달 단계인 청소년에게 더 위험할 수 있다. 김 교수는 “‘다음 영상은 더 재미있을 수 있다’는 기대 때문에 계속 화면을 넘긴다. 보상이 언제 나올지 예측할 수 없는 구조가 반복 행동을 가장 강하게 만드는 것”이라고 했다.
위험 신호도 나타나고 있다. 과학기술정보통신부의 스마트폰 과의존 실태조사 결과를 보면 지난해 기준 전체 이용자의 과의존 위험군은 22.7%로 전년보다 0.2%포인트 낮아졌다. 2021년(24.2%) 정점을 찍고 4년째 하락 추세다. 반면 10~19세 청소년은 43.0%로 전년 대비 0.4%포인트 올라 전체 평균의 두 배에 육박했다. 청소년 위험군 비율은 4년 새 6%포인트(37.0%→43.0%) 상승했다.
김현수 명지병원 정신건강의학과 교수는 “청소년이 스마트폰 과의존에서 벗어나지 못하는 것은 자신이 통제할 수 없는 알고리즘 때문”이라며 “알고리즘이 중독 대상을 계속 공급하는 셈”이라고 말했다. 백운희 정치하는엄마들 운영위원은 “개인에게만 책임을 물으면 스스로에 대한 열패감만 남고, 플랫폼은 책임에서 빠져나가게 된다”고 말했다.
미국 로스앤젤레스 카운티 법원 배심원단은 지난 3월 메타와 구글이 중독성이 과한 영상 노출 구조로 청소년에게 피해를 입혔다며 총 600만달러를 배상하라고 평결했다. 빅테크의 중독성 설계 책임을 물은 첫 사례다. 미국 뉴욕주는 18세 미만에게 개인 맞춤형 피드를 제공할 때 보호자 동의를 받도록 하는 규칙을 지난달 확정해 내년 1월 시행한다.
EU 집행위원회도 지난 2월 틱톡의 무한 스크롤·자동재생·개인화 추천이 디지털서비스법을 위반했다는 예비판단을 내렸다. 플랫폼이 중독을 유발할 위험을 충분히 평가하지 못했다는 취지다. 지난달에는 인스타그램·페이스북에도 자동재생과 무한 스크롤을 기본 적용하지 말라고 요구했다.
한국 정부도 이런 흐름을 반영해 규제 검토에 착수했다. 김종철 방송미디어통신위원장은 지난달 16일 대통령 업무보고에서 “19세 미만은 중독성 디자인이나 과몰입을 유도하는 추천 알고리즘 노출을 제한하는 방안을 단계별로 모색하고 있다”고 말했다.
황운하 조국혁신당 의원이 지난 3월 발의한 정보통신망법 개정안은 미성년자 계정에서 개인 맞춤형 추천과 이용시간을 늘리는 기능을 제한하고, 플랫폼에 추천 작동 방식과 차단 방법을 알릴 의무를 부과하도록 했다.
다만 실제 규제까지 넘어야 할 산도 많다. 당장 규제 대상을 명확히 정하는 것부터가 쉽지 않다. 추천 기능은 SNS뿐 아니라 뉴스·게임·쇼핑 등 플랫폼 업계 전반에 쓰인다. 한 플랫폼 안에서도 메신저·오픈채팅·숏폼처럼 성격이 다른 기능이 섞여 있기도 하다. SNS에만 적용하거나 한 플랫폼 안에서도 특정 기능만 규제하면 형평성 논란이 불거질 수 있다.
뉴욕주는 이용자가 전체 이용시간의 20% 이상을 알고리즘 피드에 쓰고, 월 활성 이용자 수가 500만명 이상인 서비스 등으로 한정했다. 논란을 피하기 위해 사업 규모·이용자 비율 등 눈에 보이는 숫자로 기준을 정한 것이다.
다만 이 경우에도 ‘우회로’가 생길 수 있다. 청소년이 성인 계정으로 접속하면 실제 이용자를 확인하기 어렵다. 연령 확인 없이 e메일만으로 가입되는 해외 서비스도 있다. 오 교수는 “일률적으로 차단하면 청소년이 규제가 덜한 소규모 플랫폼으로 이동할 가능성이 있다”고 말했다.
업계 관계자 A씨는 “요즘은 영상뿐 아니라 검색이나 맛집·학원을 찾는 데도 알고리즘이 들어간다. 어느 서비스의 어떤 기능까지 규제할지 먼저 정해야 한다”고 말했다. 다른 관계자 B씨도 “규제 자체를 반대하지는 않지만, 해외 사업자는 빠져나가고 국내 플랫폼만 규제받는 결과가 돼서는 안 된다”고 말했다.
기존 추천 알고리즘을 대체할 장치를 마련하는 일도 관건이다. 개인화 추천 기능을 끄면 이용자 화면을 무작위로 채우거나, 인기순·팔로우순 등 기준을 적용해야 하지만 기존 추천 알고리즘만큼 이용자를 만족시킬 수 있을지는 미지수다.
이에 청소년 계정에 별도 알고리즘을 적용하는 것도 대안으로 거론된다. EU 집행위는 앞서 시청 기록과 같은 ‘수동적 신호’가 아니라 좋아요 표시 등 이용자가 직접 매긴 ‘능동적 신호’를 알고리즘에 우선 반영하라고 플랫폼에 권고했다. 업계에서는 어떤 기준으로 알고리즘을 새로 만들지를 합의할 시간이 필요하다고 말한다. A씨는 “‘청소년을 위한 알고리즘’ 설계에도 결국 플랫폼의 가치 판단이 들어가야 해 복잡한 문제”라며 “제도를 만들기만 할 것이 아니라 실제로 적용할 때 어떻게 될지도 함께 논의 대상이 되면 좋을 것”이라고 했다. 오 교수는 “이용자가 추천 알고리즘의 원리와 문제점을 알고 책임 있게 이용할 수 있도록 하는 환경을 만드는 게 선행돼야 한다”고 말했다.
■최중범 전 서울우유협동조합 유제품연구소장 겸 수의사 별세, 현용씨 부친상, 김성훈 전 OTTO 한국법인 대표이사 장인상, 김현지 파이낸셜뉴스 생활경제부 기자 외조부상=11일 서울성모병원, 발인 14일 (02)2258-5940
■김치관씨 별세, 윤호 전 서울문화사 부국장·미경 국제로타리클럽 한국지국 부지국장·미선·경희씨 부친상, 박영서 디지털타임스 논설위원·이택우 MUFG은행 서울지점 장인상=11일 서울성모병원. 발인 14일 (02)2258-5940
■장세현씨 별세, 김진구 명지의료재단 의료원장 모친상=11일 고양 명지병원. 발인 14일 (031)810-5444
■조병선씨 별세, 장호익 동원개발 부회장 장모상=11일 해운대백병원. 발인 13일 (051)893-4444
■윤순혁씨 별세, 송윤주 에너지경제신문 건설부동산부 기자 외조모상=11일 안양메트로병원. 발인 13일 (031)449-9000
김양은 “영상에는 몇 주 만에 몇 킬로씩 살을 뺐다는 사람들이 계속 나오는데, 이를 볼수록 초조해졌다”며 “내가 보고 싶은 영상을 선택한다고 생각했는데, 어느 순간부터는 추천되는 영상을 멈추지 못하고 계속 보게 됐다”고 말했다.
정부가 이런 ‘알고리즘 중독’을 겨냥한 규제 카드를 꺼내 들었다. 온라인 플랫폼이 이용자에게 무엇을 어떤 순서로 추천하는지 그 설계 방식에 손을 대겠다는 것이다. 미국과 유럽연합(EU)이 추천 알고리즘·자동재생 등을 ‘중독성 설계’로 보고 잇달아 제동을 건 흐름을 따라가는 조치다. 다만 업계에서는 규제 대상과 기준이 불분명한 채로는 허울뿐인 규제에 그칠 수 있다는 지적이 나온다.
‘당신이 원하는 콘텐츠를 먼저 찾아 보여줍니다’. 플랫폼이 내세우는 추천 알고리즘의 기능이다. 이용자가 관심 있을 만한 콘텐츠를 먼저 찾아서 보여주고 이용자가 ‘탐색할 시간’을 줄여준다는 것이다. 넷플릭스·유튜브·스포티파이 등 글로벌 플랫폼 기업들은 이런 추천 알고리즘을 핵심 엔진으로 삼아 성장했다.
작동 방식은 단순하다. 우선 이용자가 고른 관심사나 초반 이용 기록을 바탕으로 보여줄 만한 콘텐츠 후보를 추린다. 이어 콘텐츠마다 끝까지 볼 확률, ‘좋아요’를 누를 확률, 공유할 확률 등을 각각 예측한 뒤 플랫폼이 정한 가중치를 곱해 점수를 매긴다. 이 점수 순서대로 화면에 콘텐츠가 나온다.
알고리즘이 측정하는 것은 이용자의 ‘관심’이다. 통상 호기심이나 불안 때문에 오래 본 영상도 ‘선호’로 계산될 수 있다. 플랫폼들은 이 과정에서 유해 콘텐츠를 걸러내는 자정장치를 두고 있다고 항변하지만 알고리즘이 공개되지 않는 한 이를 검증하긴 어렵다. 이용자의 체류 시간이 길어질수록 광고 노출도 늘어나고, 플랫폼의 수익도 증가한다. 플랫폼이 알고리즘 규제에 소극적이라는 의심을 받는 이유다.
오세욱 선문대 미디어커뮤니케이션학부 교수는 “문제는 이 알고리즘이 이용자가 자극적인 콘텐츠를 ‘오래 봤다’는 신호는 잡아내지만, 그 콘텐츠가 불법 정보인지 허위 정보인지까지 판단하기는 어렵다는 것”이라고 말했다.
전문가들은 이 알고리즘이 이용자의 관심을 증폭시킨다는 점에 주목한다. 독일 막스플랑크 인간개발연구소 실험 결과, 이용자가 관심 분야 영상 13개쯤을 시청한 시점부터 알고리즘은 비슷한 주제를 집중적으로 몰아주기 시작했다. 관심 분야 콘텐츠가 늘수록 접하는 해시태그의 다양성도 줄었다. 콘텐츠 하나를 따라갔다가 비슷한 콘텐츠 속으로 계속 깊이 빠져드는 이른바 ‘토끼굴’ 현상이다. 김은희 고려대 사범대학 겸임교수(김은희진로·심리상담연구소 소장)는 “이용자는 자유롭게 선택한다고 생각하지만 실제로는 플랫폼이 정한 순서에 수동적으로 반응한다”고 지적했다.
이른바 ‘무한 스크롤(콘텐츠가 끝없이 이어지는 것)’과 자동 재생도 ‘토끼굴 현상’을 키운다. 다음 영상을 볼지 판단할 틈을 없애 이용자의 뇌를 일종의 ‘자동조종 모드’로 옮기는 것이다. 이런 구조는 자기통제 능력이 발달 단계인 청소년에게 더 위험할 수 있다. 김 교수는 “‘다음 영상은 더 재미있을 수 있다’는 기대 때문에 계속 화면을 넘긴다. 보상이 언제 나올지 예측할 수 없는 구조가 반복 행동을 가장 강하게 만드는 것”이라고 했다.
위험 신호도 나타나고 있다. 과학기술정보통신부의 스마트폰 과의존 실태조사 결과를 보면 지난해 기준 전체 이용자의 과의존 위험군은 22.7%로 전년보다 0.2%포인트 낮아졌다. 2021년(24.2%) 정점을 찍고 4년째 하락 추세다. 반면 10~19세 청소년은 43.0%로 전년 대비 0.4%포인트 올라 전체 평균의 두 배에 육박했다. 청소년 위험군 비율은 4년 새 6%포인트(37.0%→43.0%) 상승했다.
김현수 명지병원 정신건강의학과 교수는 “청소년이 스마트폰 과의존에서 벗어나지 못하는 것은 자신이 통제할 수 없는 알고리즘 때문”이라며 “알고리즘이 중독 대상을 계속 공급하는 셈”이라고 말했다. 백운희 정치하는엄마들 운영위원은 “개인에게만 책임을 물으면 스스로에 대한 열패감만 남고, 플랫폼은 책임에서 빠져나가게 된다”고 말했다.
미국 로스앤젤레스 카운티 법원 배심원단은 지난 3월 메타와 구글이 중독성이 과한 영상 노출 구조로 청소년에게 피해를 입혔다며 총 600만달러를 배상하라고 평결했다. 빅테크의 중독성 설계 책임을 물은 첫 사례다. 미국 뉴욕주는 18세 미만에게 개인 맞춤형 피드를 제공할 때 보호자 동의를 받도록 하는 규칙을 지난달 확정해 내년 1월 시행한다.
EU 집행위원회도 지난 2월 틱톡의 무한 스크롤·자동재생·개인화 추천이 디지털서비스법을 위반했다는 예비판단을 내렸다. 플랫폼이 중독을 유발할 위험을 충분히 평가하지 못했다는 취지다. 지난달에는 인스타그램·페이스북에도 자동재생과 무한 스크롤을 기본 적용하지 말라고 요구했다.
한국 정부도 이런 흐름을 반영해 규제 검토에 착수했다. 김종철 방송미디어통신위원장은 지난달 16일 대통령 업무보고에서 “19세 미만은 중독성 디자인이나 과몰입을 유도하는 추천 알고리즘 노출을 제한하는 방안을 단계별로 모색하고 있다”고 말했다.
황운하 조국혁신당 의원이 지난 3월 발의한 정보통신망법 개정안은 미성년자 계정에서 개인 맞춤형 추천과 이용시간을 늘리는 기능을 제한하고, 플랫폼에 추천 작동 방식과 차단 방법을 알릴 의무를 부과하도록 했다.
다만 실제 규제까지 넘어야 할 산도 많다. 당장 규제 대상을 명확히 정하는 것부터가 쉽지 않다. 추천 기능은 SNS뿐 아니라 뉴스·게임·쇼핑 등 플랫폼 업계 전반에 쓰인다. 한 플랫폼 안에서도 메신저·오픈채팅·숏폼처럼 성격이 다른 기능이 섞여 있기도 하다. SNS에만 적용하거나 한 플랫폼 안에서도 특정 기능만 규제하면 형평성 논란이 불거질 수 있다.
뉴욕주는 이용자가 전체 이용시간의 20% 이상을 알고리즘 피드에 쓰고, 월 활성 이용자 수가 500만명 이상인 서비스 등으로 한정했다. 논란을 피하기 위해 사업 규모·이용자 비율 등 눈에 보이는 숫자로 기준을 정한 것이다.
다만 이 경우에도 ‘우회로’가 생길 수 있다. 청소년이 성인 계정으로 접속하면 실제 이용자를 확인하기 어렵다. 연령 확인 없이 e메일만으로 가입되는 해외 서비스도 있다. 오 교수는 “일률적으로 차단하면 청소년이 규제가 덜한 소규모 플랫폼으로 이동할 가능성이 있다”고 말했다.
업계 관계자 A씨는 “요즘은 영상뿐 아니라 검색이나 맛집·학원을 찾는 데도 알고리즘이 들어간다. 어느 서비스의 어떤 기능까지 규제할지 먼저 정해야 한다”고 말했다. 다른 관계자 B씨도 “규제 자체를 반대하지는 않지만, 해외 사업자는 빠져나가고 국내 플랫폼만 규제받는 결과가 돼서는 안 된다”고 말했다.
기존 추천 알고리즘을 대체할 장치를 마련하는 일도 관건이다. 개인화 추천 기능을 끄면 이용자 화면을 무작위로 채우거나, 인기순·팔로우순 등 기준을 적용해야 하지만 기존 추천 알고리즘만큼 이용자를 만족시킬 수 있을지는 미지수다.
이에 청소년 계정에 별도 알고리즘을 적용하는 것도 대안으로 거론된다. EU 집행위는 앞서 시청 기록과 같은 ‘수동적 신호’가 아니라 좋아요 표시 등 이용자가 직접 매긴 ‘능동적 신호’를 알고리즘에 우선 반영하라고 플랫폼에 권고했다. 업계에서는 어떤 기준으로 알고리즘을 새로 만들지를 합의할 시간이 필요하다고 말한다. A씨는 “‘청소년을 위한 알고리즘’ 설계에도 결국 플랫폼의 가치 판단이 들어가야 해 복잡한 문제”라며 “제도를 만들기만 할 것이 아니라 실제로 적용할 때 어떻게 될지도 함께 논의 대상이 되면 좋을 것”이라고 했다. 오 교수는 “이용자가 추천 알고리즘의 원리와 문제점을 알고 책임 있게 이용할 수 있도록 하는 환경을 만드는 게 선행돼야 한다”고 말했다.
■최중범 전 서울우유협동조합 유제품연구소장 겸 수의사 별세, 현용씨 부친상, 김성훈 전 OTTO 한국법인 대표이사 장인상, 김현지 파이낸셜뉴스 생활경제부 기자 외조부상=11일 서울성모병원, 발인 14일 (02)2258-5940
■김치관씨 별세, 윤호 전 서울문화사 부국장·미경 국제로타리클럽 한국지국 부지국장·미선·경희씨 부친상, 박영서 디지털타임스 논설위원·이택우 MUFG은행 서울지점 장인상=11일 서울성모병원. 발인 14일 (02)2258-5940
■장세현씨 별세, 김진구 명지의료재단 의료원장 모친상=11일 고양 명지병원. 발인 14일 (031)810-5444
■조병선씨 별세, 장호익 동원개발 부회장 장모상=11일 해운대백병원. 발인 13일 (051)893-4444
■윤순혁씨 별세, 송윤주 에너지경제신문 건설부동산부 기자 외조모상=11일 안양메트로병원. 발인 13일 (031)449-9000
네이버 홈페이지 상위노출, 상간소송, 울산이혼전문변호사, 의정부성범죄변호사, 속초하수구막힘, 수원변호사, 320i 장기렌트, 벤츠 GLC 300 장기렌트, 안양이혼전문변호사, 서초구변기막힘, 남양주이혼전문변호사, 상간녀위자료, 안양대형로펌, 수원이혼변호사, 용인이혼전문변호사, 분당불법촬영변호사, 용인성추행변호사, 남양주법무법인, HANAFN 사기, 포천학교폭력변호사, 홍콩주식 사기 이정명 강하린사칭, 수원이혼전문변호사, 청라하수구막힘, 정선변기막힘, 운전직채용, 대구이혼전문변호사, 제네시스 GV70 장기렌트, 현대 그랜저 장기렌트
- 이전글비아그라를 꾸준히 먹으면 내성이 생기나요? 26.08.12
- 다음글비아그라 구매 시 가짜 제품 구별하는 방법 26.08.12
댓글목록
등록된 댓글이 없습니다.