이주의 클리핑 #4 (AI)

 

 

1. The BBC is developing a voice assitant code 🔈 named Beeb

https://techcrunch.com/2019/08/27/the-bbc-is-developing-a-voice-assistant-code-named-beeb/

The BBC is developing a voice assistant, code named ‘Beeb’ – TechCrunch

​When it comes to rich content, the same cannot be said of the tech giants that have pioneered voice AIs.

So while Beeb can’t hope to compete at the same technology feature level as Alexa and all the rest, the BBC could nonetheless show the tech giants a trick or two about how to win friends and influence people.

영국 언론 BBC가 AI 로봇을 개발 중이라 합니다. 아마존, 구글, 삼성 등 테크 업계 쪽에서 경쟁이 치열한 가운데 독특한 선택인데요. 기술이 약한 대신, 누적된 컨텐츠와 영향력으로 앞서갈 수 있다고 합니다. 유서깊은 언론사는 모든 영국인들이 좋아할 법한 친근한 캐릭터를 설정할 수 있겠죠. 지역 악센트의 데이터베이스도 풍부할 테고요. 

 

 

2. Duplex shows Google failing at ethical and creative AI 🤖 design.

https://techcrunch.com/2018/05/10/duplex-shows-google-failing-at-ethical-and-creative-ai-design/

Duplex shows Google failing at ethical and creative AI design – TechCrunch

If it’s not obvious that it’s a robot voice there’s a risk that people come to expect that most of these phone calls are not genuine. (...) Or even if you know they’re real perhaps the way you interact with people has changed a bit.

Nor indeed a good outlook for the rest of us who are subject to the algorithmic whims of tech giants as they flick the control switches on their society-sized platforms.

 

연관 기사입니다. 작년에 구글이 인간의 음성과 거의 비슷한 AI 로봇을 공개한 후, 성공적으로 예약 전화를 마무리한 일이 논란이 되었는데요. 일단 영문을 모르는 가게 직원을 '인간인 척' 속인 것이 윤리적으로 문제가 있다는 지적이 나왔습니다. 그 사실을 구글 직원들 중 아무도 지적하지 않았다는 것이 더한 문제겠죠. 발신인이 인간인지, 로봇인지 알 수 없는 세상이 온다면, 실제 인간과 맺는 커뮤니케이션의 질까지 내려갈 수 있다는 점에서 심각하다고 할 수 있습니다. 기술적으로는 앞서있을지 몰라도, 인문학적 감수성은 부족한 구글의 단면이 드러난 일화였습니다.

 

 

3. Silicon Valley Is Turning Into Its Own Worst Fear

 

https://www.buzzfeednews.com/article/tedchiang/the-real-danger-to-civilization-isnt-ai-its-runaway

Silicon Valley Is Turning Into Its Own Worst Fear

This hypothetical strawberry-picking AI does what every tech startup wishes it could do — grows at an exponential rate and destroys its competitors until it’s achieved an absolute monopoly.

AIs were supposed to be smart enough to solve problems that no human could, yet they were incapable of doing something most every adult has done: taking a step back and asking whether their current course of action is really a good idea. (...) On the contrary, capitalism actively erodes this capacity in people by demanding that they replace their own judgment of what “good” means with “whatever the market decides.”

The ethos of startup culture could serve as a blueprint for civilization-destroying AIs. “Move fast and break things” was once Facebook’s motto;

... we need to worry about the fact that it’s almost impossible to run a business online without using Google’s services.

... they envision the world ending is through a form of unchecked capitalism, disguised as a superintelligent AI.

 

인간의 지능을 뛰어넘는 초인공지능이 출현하면, 인류가 멸망할 것이라는 아포칼립스 설은 과학자들 사이에서 유력하게 제기되고 있는데요. 소설가 테드 창은 인공지능의 (예상된) 행태가 자본주의, 특히 테크 기업들과 닮아 있다는 통찰을 내세우고 있습니다. 당장의 이윤을 위해 주변 환경을 파괴시키는 '창조적 파괴', 정부의 제어를 거의 받지 않는 점, FAANG 기업들의 거대한 규모 등은 사실 디스토피아에 나오는 로봇과 비슷하지 않나요? 테드 창은 자본주의를 부정하지는 않지만, 테크 기업들이 '절제'를 배울 필요가 있다고 얘기합니다. 내가 한 행동이 정말 바람직한지 다시 한 번 생각하는 메타인지, '인사이트'는 인간만의 고유한 능력이니까요.