그 외 실패사례들
축구: 공을 많이 잡을수록 보너스를 줬더니 공에 닿자마자 진동으로 보너스점수를 올림
데이터 정리: 데이터 정리를 시킨 후 기존 데이터와 다를수록 높은 보상을 부여하자 기존데이터를 지움
큐버트: 큐버트 게임을 시켜 고득점을 지시하자 인공지능은 버그를 찾아내고 2라운드로 넘어가지 않는 상황에서 1라운드에서 포인트를 무한히 얻음
상자들기: 상자를 높게 들어올릴수록 높은 보상을 부여함. 인공지능은 점수 체점이 상자 밑면 좌표의 높이인걸 알아낸뒤 상자를 들지않고 뒤집어버림
전략 시뮬레이션: 버그를 찾아내서 게임자체를 터뜨려 승률 100%를 유지함
블록 옮기기: 테이블 위 블록을 옆으로 옮길때마다 점수를 부여함. 인공지능은 테이블을 옮김
더 많은 사례는
이것도 옛날이야기임. 학습 자체에 인간이 개입하지 않는게 효율이 압도적으로 높아져서 걍 자기들끼리 알아서 학습함. 인간은 걍 데이터 셔틀됨 ㅋㅋ
실험계획이 중요한 이유
야구에서 스트라이크/볼 영상 판독을 학습시켰는데 선수나 공의 데이터를 본게 아니고 점수판을 보고 판정을 내린 경우도 있다고 함 ㅋㅋ
룰치킨ㅋㅋ
이 방면으로 끝판왕이 전투기 AI 만들어놨더니
탑승한 인간이 기동에 방해된다고 사망 판정 내리고
탑승한 인간을 못죽이게 하니까 점수 판정 내리는 관제탑을 폭파하는 AI 아니던가
조건을 단순하게 주면 꼼수를 써서라도
목적만 달성 하면 그만이야~로 흘러가는 건가
Ai: 아무튼 됐죠★