https://www.nytimes.com/2017/07/15/opinion/sunday/please-prove-youre-not-a-robot.html?ref=opinion&_r=0
When science fiction writers first imagined
robot invasions, the idea was that bots would become smart and powerful enough
to take over the world by force, whether on their own or as directed by some
evildoer. In reality, something only slightly less scary is happening. Robots
are getting better, every day, at impersonating humans. When directed by
opportunists, malefactors and sometimes even nation-states, they pose a
particular threat to democratic societies, which are premised on being open to
the people.
공상 과학 작가들이 처음으로 로봇의 침략을 상상했을 때, 주 아이디어는
로봇들이 자기들 힘으로던 악당이 시켰던간에 힘으로 세계를 차지할 수 있을 정도로 똑똑해지고 강해지는 것이었다. 현실에선, 아주 약간만 덜 무서운 것이 일어나고 있다. 로봇들은 매일 인간을
따라하는데 더 나아지고 있다. 기회주의자, 악인, 가끔은 민족국가들이 조종할 때에는, 로봇은 사람들에게 공개하는 것을
전제로 하는 민주주의 사회에 특정한 위협이 된다.
Robots posing as people have become a
menace. For popular Broadway shows (need we say “Hamilton”?), it is actually
bots, not humans, who do much and maybe most of the ticket buying. Shows sell
out immediately, and the middlemen (quite literally, evil robot masters) reap
millions in ill-gotten gains.
사람들인 것처럼 위장하는 로봇들은 위협이 됬다. 브로드웨이의 유명한
쇼들의 경우 ("헤밀튼"이라고 말해야 하나?") 티켓을 사는 것의 대부분은 인간이 아니라 간단한 프로그램이다. 쇼들은
금방 팔리고, 중개인들 (말 그대로, 악당 로봇 주인)은 수백만을 부정하게 번다.
Philip Howard, who runs the Computational
Propaganda Research Project at Oxford, studied the deployment of propaganda
bots during voting on Brexit, and the recent American and French presidential
elections. Twitter is particularly distorted by its millions of robot accounts;
during the French election, it was principally Twitter robots who were trying
to make #MacronLeaks into a scandal. Facebook has admitted it was essentially
hacked during the American election in November. In Michigan, Mr. Howard notes,
“junk news was shared just as widely as professional
news in the days leading up to the election.”
옥스포드에서 컴퓨터를 사용한 선전 연구 프로젝트를 진행하는 Philip
Howard는 브렉시트 투표 당시 선전 프로그램들의 사용에 대해 연구했고, 최근의 미국과
프랑스 대선에 대해서도 연구했다. 트위터는 특히 수백만의 로봇 계정들에 의해 뒤틀려 있다. 프랑스 대선 당시, 대부분 트위터 로봇들이 #마크롱유출을 스캔들로 만들려고 했다. 페이스북은 미국 대선 당시 11월에 해킹을 당했다고 인정했다. 미시건에서, Howard씨가 말하길 "대선까지에 기간 중 정크 뉴스들은
전문적인 뉴스들만큼 공유되었습니다."
Robots are also being used to attack the
democratic features of the administrative state. This spring, the Federal
Communications Commission put its proposed revocation of net neutrality up for
public comment. In previous years such proceedings attracted millions of
(human) commentators. This time, someone with an agenda but no actual public
support unleashed robots who impersonated (via stolen identities) hundreds of
thousands of people, flooding the system with fake comments against federal net
neutrality rules.
로봇들은 또 행정국가의 민주적 특징들을 공격하는데 쓰이고 있다. 이번
봄 연방 통신 위원회는 제안한 온라인 중립성을 폐지하는 것을 대중의 논평에 대상으로 올렸다. 과거에는
그런 절차는 수백만의 (인간인) 논평자들을 불러왔다. 이번엔, 아젠다는 있지만 진짜 대중의 지지는 없는 사람이 (도난된 개인정보를 이용한) 수십만의 사람들인 척 하는 로봇들을 풀어서, 연방의 인터넷 중립성 규칙에 대해 가짜 논평들을 쏟아내고 있다.
To be sure, today’s impersonation-bots are
different from the robots imagined in science fiction: They aren’t sentient,
don’t carry weapons and don’t have physical bodies. Instead, fake humans just
have whatever is necessary to make them seem human enough to “pass”: a name,
perhaps a virtual appearance, a credit-card number and, if necessary, a
profession, birthday and home address. They are brought to life by programs or
scripts that give one person the power to imitate thousands.
분명히, 오늘날의 인간인 척 하는 프로그램들은 공상과학에서 상상된
로봇들과는 다르다. 그들은 자각하지 않고, 무기를 가지고
다니지 않고, 육체가 없다. 대신, 가짜 인간들은 "패스"를
받기 위해 인간처럼 보이게 해야 하는 어떤 것이든 가지고 있다. 이름,
어쩌면 가상의 외모, 신용카드 번호, 그리고
필요하다면 직업, 생일, 그리고 주소. 이것들은 수천명을 모방하기 위해 한명에게 권력을 주는 스크립트나 프로그램들에 의해 생명력이 불어넣어 진다.
The problem is almost certain to get worse,
spreading to even more areas of life as bots are trained to become better at
mimicking humans. Given the degree to which product reviews have been swamped
by robots (which tend to hand out five stars with abandon), commercial sabotage
in the form of negative bot reviews is not hard to predict. In coming years,
campaign finance limits will be (and maybe already are) evaded by robot armies
posing as “small” donors. And actual voting is another obvious target — perhaps
the ultimate target.
문제는 봇들이 인간들을 모방하는데 더 좋아지게 훈련을 받으면서 인생의 여러 부문으로 퍼져나가면서 더 나빠질 것이
확실하다. 제품 리뷰들이 로봇들(보통 별 5개를 주는)로 가들 차 있는 것을 볼 때, 봇들의 부정적인 리뷰로 상업적 사보타지를 하는 것은 예견하기 어려워 보이지 않는다. 다가올 미래에, 선거 켐페인 자금 제한은 "소규모" 기부자로 위장한 로봇 군단들에게 침공당할
것이다 (아니면 침공 당하고 있거나). 그리고 실제 투표는
또 다른 당연한 타겟이다. 어쩌면 최종 목표일지도.
So far, we’ve been content to leave the
problem to the tech industry, where the focus has been on building defenses,
usually in the form of Captchas (“completely automated public Turing test to
tell computers and humans apart”), those annoying “type this” tests to prove
you are not a robot. But leaving it all to industry is not a long-term
solution. For one thing, the defenses don’t actually deter impersonation bots,
but perversely reward whoever can beat them. And perhaps the greatest problem
for a democracy is that companies like Facebook and Twitter lack a serious
financial incentive to do anything about matters of public concern, like the
millions of fake users who are corrupting the democratic process. Twitter
estimates at least 27 million probably fake accounts; researchers suggest the
real number is closer to 48 million, yet the company does little about the
problem.
최근까지 우리는 로봇이 아닌 것을 증명하기 위해 "이걸 치세요" 같은 짜증나는 테스트인 Captchas (완전히 자동화된
컴퓨터와 인간을 구분하기 위한 대중 튜링 테스트) 같은 경우로 방어를 만드는데 주력해온 기술 산업에게
문제를 넘기는데 만족했다. 하지만 전부 산업에 넘기는 건 장기적 솔루션이 아니다. 우선 한가지 들자면, 이 방어들은 사람인 척 하는 봇들을 사실 막지
못하고, 그것들을 깨는 자들에게 삐딱하게 보상한다. 그리고
아마 가장 큰 민주주의를 위한 문제는 페이스북이나 트위터 같은 회사들은 수백만의 민주적 프로세스를 오염시키는 가짜 유저들을 막는 것 같은 대중의
걱정에 대해 무언가를 할 진지한 자금적 장려책이 없다는 것이다. 트위터는 최소한 2천7백만개의 아마 가짜인 계정들을 추산하고 있다. 연구자들은 진짜 갯수는 4천 8백만개에 가까울 것이라고 생각하지만, 회사는 그것에 대해 거의 아무것도 하고 있지 않다.
The problem is a public as well as private
one, and impersonation robots should be considered what the law calls “hostis
humani generis”: enemies of mankind, like pirates and other outlaws. That would
allow for a better offensive strategy: bringing the power of the state to bear
on the people deploying the robot armies to attack commerce or democracy.
문제는 개인적인만큼 대중적이고, 사람인 척 하는 로봇들은 법이 "호스티스 휴마니 제네리스":인류의 적, 해적이나 다른 무법자처럼 부르는 것으로 생각해야한다. 그것은 더
나은 공세적 전략을 가능하게 할 것이다: 상업을 공격하고 민주주의를 공격하려고 로봇 군단을 사용하는
사람들에게 국가의 힘을 쓰는 것.
The ideal anti-robot campaign would employ
a mixed technological and legal approach. Improved robot detection might help
us find the robot masters or potentially help national security unleash
counterattacks, which can be necessary when attacks come from overseas. There
may be room for deputizing private parties to hunt down bad robots. A simple
legal remedy would be a “ Blade Runner” law that makes it illegal to deploy any
program that hides its real identity to pose as a human. Automated processes
should be required to state, “I am a robot.” When dealing with a fake human, it
would be nice to know.
이상적인 반-로봇 캠페인은 기술적인 접근과 법적인 접근을 섞어서 사용하는
것이다. 향상된 로봇 탐지는 우리가 로봇 주인이나 잠재적으로 해외에서 공격이 올 때 필요할 수 있는
국가 안보관련해서 반격을 하는데 도울 수도 있다. 개인적 단체들이 나쁜 로봇들을 사냥할 기회도 있을
수 있다. 간단한 법적 대응은 사람으로 위장하기 위해 진짜 정체를 숨기는 어떠한 프로그램을 사용하는
것을 불법으로 하는 "블레이드 러너"법안이
되겠다. 자동화된 절차는 "나는 로봇입니다."를 알리도록 요구되야 할 것이다. 가짜 인간를 취급할 때에는
아는 것이 나을 것이다.
Using robots to fake support, steal tickets
or crash democracy really is the kind of evil that science fiction writers were
warning about. The use of robots takes advantage of the fact that political
campaigns, elections and even open markets make humanistic assumptions,
trusting that there is wisdom or at least legitimacy in crowds and value in
public debate. But when support and opinion can be manufactured, bad or
unpopular arguments can win not by logic but by a novel, dangerous form of
force — the ultimate threat to every democracy.
로봇들 이용해 가짜 지지를 하거나, 티켓을 훔치거나 민주주의를 내려
찍는 것들이 진짜 공상과학 작가들이 경고하던 것들이다. 로봇들의 사용은 정치 캠페인, 선거와, 열려있는 시장들이 인간이겠거니 어떤 지혜나 대중들에게서
타당성이 있거나 공공 토론의 가치가 있겠거니 믿는 것을 이용한다. 하지만 지지나 견해가 만들어 질 수
있을 때, 나쁘거나 인기가 없는 주장들은 논리가 아니라 새롭고 위험한 형태의 힘으로 이길 수 있다-- 모든 민주주의의 가장 위험한 위협
댓글 없음:
댓글 쓰기