robots.txt
뜻
웹사이트 맨 위 폴더에 두는 글 파일로, 검색 엔진 같은 크롤러에게 어느 경로를 가져가도 되는지 알려 줍니다. 규칙은 RFC 9309로 정리되어 있습니다.
robots.txt 관련 기사 1건
함께 보면 좋은 용어
- 크롤링Crawling
- 프로그램이 웹페이지를 자동으로 돌아다니며 내용을 모으는 일입니다. AI 학습 데이터 수집과 저작권 논쟁의 중심에 있습니다.
- 앤트로픽Anthropic
- 클로드를 만드는 미국 AI 회사입니다. 오픈AI 출신 연구자들이 2021년 세웠고 AI 안전 연구를 앞세웁니다.
- 옵트아웃Opt-out
- 기본으로 켜진 데이터 수집·이용을 이용자나 사이트 운영자가 스스로 거부하는 방식입니다. AI 서비스의 '내 대화로 모델 학습' 끄기와 robots.txt의 AI 학습 거부 표시가 그 예입니다.
- 저작권Copyright
- 창작물을 만든 사람이 갖는 권리입니다. AI가 남의 글·그림으로 학습하거나 비슷한 결과를 낼 때 침해인지가 세계 곳곳에서 소송과 입법으로 다뤄지고 있습니다.
- 학습 데이터Training data
- AI 모델을 만들 때 읽히는 글·그림·코드 뭉치입니다. 어디서 가져왔는지, 학습 중 외부와 연결되는지가 안전과 저작권 문제로 이어집니다.
- IETFInternet Engineering Task Force
- HTTP 같은 인터넷 기술 표준을 만드는 국제 표준 기구입니다. 누구나 초안을 낼 수 있고 작업반 논의를 거쳐 RFC라는 표준 문서가 됩니다.
- 깃허브GitHub
- 코드를 저장하고 여럿이 함께 고치는 웹 서비스입니다. 오픈소스 프로젝트 대부분이 여기에 코드와 새 버전을 공개합니다.
- 노코드No-code
- 코드를 몰라도 블록을 끌어다 놓는 방식으로 앱이나 자동화를 만드는 도구입니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.
