새로운 AI 분류기: AI 작성 텍스트 표시
새로운 AI 분류기는 무엇입니까?
새로운 AI 분류기는 다양한 공급업체의 AI 시스템이 작성한 텍스트와 인간이 작성한 텍스트를 구별하는 툴입니다. 그러나 모든 AI 작성 텍스트를 신뢰할 수는 없으며, 분류기는 인간이 작성한 텍스트를 AI가 작성한 것처럼 잘못 주장하는 것을 완화하는 데 도움이 됩니다.
새로운 AI 분류기의 기능
- 분류기는 26%의 AI 작성 텍스트를 "가능한 AI 작성"으로 올바르게 식별하고, 인간이 작성한 텍스트를 9%의 경우 AI 작성으로 잘못 레이블링합니다.
- 입력 텍스트의 길이가 증가할수록 분류기의 신뢰도가 향상됩니다.
- 분류기는 더 최근의 AI 시스템에서 텍스트에 더 신뢰할 수 있습니다.
새로운 AI 분류기 사용 방법
- 분류기는 공개적으로 사용 가능하며, 유용성에 대한 피드백을 기다리고 있습니다.
- 분류기를 직접 시도하세요: [분류기 시도](새 창에서 열림)
새로운 AI 분류기의 제한
- 분류기는 주요 결정 도구로 사용해서는 안 되며, 텍스트의 출처를 확인하는 다른 방법의 보완으로 사용해야 합니다.
- 분류기는 짧은 텍스트(1,000자 이하)에서 매우 신뢰할 수 없습니다.
- thậm chí 더 긴 텍스트도 분류기에 의해 잘못 레이블링될 수 있습니다.
- 인간이 작성한 텍스트는 분류기에 의해 잘못 레이블링될 수 있습니다.
- 분류기는 영어 이외의 언어에서 수행이 저하되며, 코드에서는 신뢰할 수 없습니다.
- 예측 가능한 텍스트는 신뢰할 수 없습니다.
- AI 작성 텍스트는 분류기를 피하기 위해 편집할 수 있습니다.
분류기 훈련
- 분류기는 인간이 작성한 텍스트와 동일 주제의 AI 작성 텍스트의 쌍으로 구성된 데이터셋에 미세 조정된 언어 모델입니다.
- 데이터셋은 인간이 작성한 것으로 믿어지는 다양한 소스에서 수집되었습니다. 예를 들어, 프리트레이닝 데이터 및 InstructGPT에 제출된 프롬프트에 대한 인간의 데모입니다.
교육자 및 피드백 요청의 영향
- 분류기는 교육자, 저널리스트, 잘못된 정보 연구자 및 기타 그룹에 영향을 미칩니다.
- OpenAI는 교육자와 함께 AI 생성 텍스트에 대한 경험을 공유하고, 그 기능 및 제한을 논의하고 있습니다.
- 교육자 및 기타 이해당사자의 피드백은 환영입니다: [피드백 제공](새 창에서 열림)