채널 : 지식인사이드
프로그램 : 지식인초대석 EP.61 한양대 철학과 이상욱 교수
제목 : "학벌 필요없어요" AI시대 주목받는 진짜 역량
방송 : 2025.9.5
@ 인간수준의 AI와 진짜 인간의 결정적 차이
# 인공일반지능(AGI, Artiical Generel Intelligence)
복잡한 문제 해결부터 창의적 작업에 이르기까지 인간과 유사한 수준의 이해와 처리능력을 발휘 할수 있는 시스템. 인간과 유사한 수준 -> 어느정도의 인간, 사람마다 전문 분야가 다름 -> 잘 정의된 과업이 있고, 그 과업이 어떤 내용이더라도 다 처리할수 있는 인공지능
# 특수인공지능(ASI, Artiical Special Intelligence)
특정 작업만을 수행하도록 특화된 인공지능, 예를 들어 바둑에 특화하면 다른 건 못함
# 사람과 비교
사람은 어느정도 교육받으면 어느분야든 대충이라도 어느정도 할수 있음
AI는 아직 그게 안됨, 인공지능 환각(존재하지 않거나 맥락에 관계없는 답을 마치 사실인 양 대답하는것), 인공지능 탈옥(설정된 안전장치, 제약을 벗어나 금지된 답변을 하도록 유도하는 행위)
따라서
@ AI가 인간의 일을 대신하면 생길 부작용
- 10년 전 가장 안전하다고 여겨졌던 일자리부터 위협받고 있다
- 단순, 반복 뿐만 아니라 창의적인 부분까지 진출 AI 작가
- 신입사원 뽑는 것보다 AI를 학습시키는 비용이 적게드므로 개발자들 대량 해고 사태도 발생, 어떤 교수님은 박사를 4명정도 두고 연구하는 효율을 말씀하심 (문헌조사 등..)
하지만, 이런 경우에도 숙련된 기술자는 필요하다. 오류를 잡아주고 문제를 해결하도록 지시할 사람이 필요하니까
- 그런데, 신입을 뽑지 않은 상태에서 10년 뒤 숙련된 사람들이 은퇴하고 나면 어떻게 되겠는가? 따라서, 효율과 비용을 고려하되 일정부부은 신규채용을 통해 core 인력 양성해야 한다
- AI를 너무 맹신하면 안된다. 틀릴수 있음을 인지해야 한다
- 책 읽고 요약하는 능력도 AI시키면 편하지만 스스로도 할수 있도록 능력을 배양해야 한다. 결국, AI의 틀린것을 잡아낼수 있는 능력이 경쟁력이 될것임
@ AI 시대, 인간의 직업은 ‘이렇게’ 바뀝니다
직업의 종류가 상당히 많이 줄어들것으로 예측, 30% 정도
하지만 직업의 대체 보다는 직능의 변화에 주목해야 한다
여태껏 해왔는 업무를 AI와 서로 나누어 하게 되는 방식으로 변화 될것
@ AI가 넘볼 수 없는 인간의 마지막 영역
휴먼 피드백 강화 학습 (RLHF, Reinforcement Learning for Human Feedback)
AI의 결과물을 보고 인간이 좋다, 나쁘다 평가해주고 그 이유를 학습시키는 것
A는 맞고 B는 틀리다. 그 이유는 ~~ 하기 때문이다..
이런 전문성을 가진 인간, 능력이 요구된다
@ AI가 헛소리도 그럴듯하게 하는 이유
AI의 환각(할루시네이션)
인간은 최근 정보나 아주 오래전의 애매한 기억을 구분할수 있다
AI는 그런거 없다. 참과 거짓을 안느껴지게 잘 버무려서 확인하는 알고리즘이 없다
줄일수는 있겠지만 없앨수는 없다. 그러므로 확인이 필요한 것!!!
@ AI의 거짓말을 창의적으로 활용하는 법
# 예술분야에서는 환영
세상에 없던 것을 만들어 낼수 있으니까 그걸 보면서 Idea의 확장에 많은 도움
대화를 통해 잘 부려먹을수 있는 협력자 역할
영화 촬영시에도 제작비 줄여주는 비용감축의 효과 있다
잘 찍었는데 배경을 바꿀수도, 엑스트라를 더 넣을수도
따라서 각 분야별로 활용방안을 모색해야 한다
# AI환각을 최대한 줄이는 방법
질문을 던질때 단순한 문장을 주지 말고
관심사, 참고자료 등을 넣어서 명확하고 구체적으로 질문하기
환각을 AI가 검토할수 있도록 결과물에 대한 추가 질문하기
아이디어 도출, 생각의 확장, 결과물의 초안 설계에는 적극 활용하되
공식적인 발표가 필요하거나 자신의 위신이 걸린 문제는 사람이 직접 검토
@ “나도 모르게 조종당한다” AI알고리즘의 함정
유튜브의 알고리즘, 쇼핑 알고리즘 등
편리할수도 있겠지만 편향적인 정보만 제공된다는 단면이 있다
법과 제도적으로 미비한 부분인다 아래와 같은 부분은 사회적 합의 필요
알고리즘의 투명성 확로 : 어떤 방식으로 자료 수집, 알고리즘 생성 하는가
알고리즘 선택권 부여 : 일정부분은 사용자가 선택할수 있도록
@ 가끔 소름돋는 AI알고리즘의 비밀
스마트폰의 마이크 기능에서 우리의 대화를 엿듣고 적절한 것을 제공하는 것
이걸 우리는 알게 모르게 허락을 한것임
구글 약관에는 두루 뭉술하게 기재했고 동의 받은 것임
@ 고도화된 AI가 인간을 행복하게 해줄까?
인간이 더욱 행복하도록 만들어 가야한다
무엇을 두려워하고 무엇을 원하는가 집단 지성이 토론을 해야 한다