Home-theater-designers
Dengan jutaan pengguna ChatGPT, Anda mungkin bertanya-tanya apa yang dilakukan OpenAI dengan semua percakapannya. Apakah itu terus-menerus menganalisis hal-hal yang Anda bicarakan dengan ChatGPT?
Jawabannya adalah, ya, ChatGPT belajar dari masukan pengguna—tetapi tidak seperti yang dipikirkan kebanyakan orang. Berikut adalah panduan mendalam yang menjelaskan mengapa ChatGPT melacak percakapan, cara menggunakannya, dan apakah keamanan Anda disusupi.
GUNAKAN VIDEO HARI INI GULIR UNTUK LANJUTKAN DENGAN KONTEN
Apakah ChatGPT Ingat Percakapan?
ChatGPT tidak menerima permintaan begitu saja. Ini menggunakan memori kontekstual untuk mengingat dan mereferensikan input sebelumnya, memastikan respons yang relevan dan konsisten.
Ambil percakapan di bawah ini sebagai contoh. Ketika kami meminta ide resep dari ChatGPT, itu mempertimbangkan pesan kami sebelumnya tentang alergi kacang.
Inilah resep aman ChatGPT.
Memori kontekstual juga memungkinkan AI menjalankan tugas multi-langkah. Gambar di bawah ini menunjukkan ChatGPT tetap dalam karakter bahkan setelah memberi prompt baru.
ChatGPT dapat mengingat lusinan instruksi dalam percakapan. Keluarannya benar-benar meningkat dalam akurasi dan presisi saat Anda memberikan lebih banyak konteks. Pastikan Anda menjelaskan instruksi Anda secara eksplisit.
Anda juga harus mengatur ekspektasi Anda karena memori kontekstual ChatGPT masih memiliki keterbatasan.
Percakapan ChatGPT Memiliki Kapasitas Memori Terbatas
Memori kontekstual terbatas. ChatGPT memiliki sumber daya perangkat keras yang terbatas, sehingga hanya mengingat poin tertentu dari percakapan saat ini. Platform melupakan petunjuk sebelumnya setelah Anda mencapai kapasitas memorinya.
Dalam percakapan ini, kami menginstruksikan ChatGPT untuk memerankan karakter fiksi bernama Tomie.
Itu mulai menjawab permintaan sebagai Tomie, bukan ChatGPT.
Meskipun permintaan kami berhasil, ChatGPT merusak karakter setelah menerima prompt 1.000 kata.
OpenAI tidak pernah mengungkapkan batas pasti ChatGPT, tetapi rumor mengatakan bahwa OpenAI hanya dapat memproses 3.000 kata dalam satu waktu. Dalam percobaan kami, ChatGPT tidak berfungsi setelah hanya 2.800+ kata.
Anda dapat memecah permintaan Anda menjadi dua set 1.500 kata, tetapi ChatGPT kemungkinan tidak akan menyimpan semua instruksi Anda. Mulailah obrolan lain sama sekali. Jika tidak, Anda harus mengulangi detail tertentu beberapa kali selama percakapan.
ChatGPT Hanya Mengingat Input yang Relevan dengan Topik
ChatGPT menggunakan memori kontekstual untuk meningkatkan akurasi keluaran. Itu tidak hanya menyimpan informasi demi mengumpulkannya. Platform hampir secara otomatis melupakan detail yang tidak relevan, bahkan jika Anda jauh dari batas token.
Pada gambar di bawah, kami mencoba mengacaukan AI dengan berbagai instruksi yang tidak koheren dan tidak relevan.
Kami menyimpan input gabungan kami di bawah 100 kata, tetapi ChatGPT masih melupakan instruksi pertama kami. Itu dengan cepat merusak karakter.
Sementara itu, ChatGPT terus bermain peran selama percakapan ini karena kami hanya mengajukan pertanyaan yang relevan dengan topik.
Idealnya, setiap dialog harus mengikuti tema tunggal untuk mempertahankan keluaran yang akurat dan relevan. Anda masih dapat memasukkan beberapa instruksi secara bersamaan. Pastikan saja mereka selaras dengan keseluruhan topik, atau ChatGPT mungkin membatalkan instruksi yang dianggap tidak relevan.
Instruksi Pelatihan Mengalahkan Input Pengguna
ChatGPT akan selalu memprioritaskan instruksi yang telah ditentukan sebelumnya daripada masukan yang dibuat pengguna. Ini menghentikan aktivitas terlarang melalui pembatasan. Platform menolak permintaan apa pun yang dianggap berbahaya atau merusak orang lain.
Ambil permintaan roleplay sebagai contoh. Meskipun aturan tersebut mengesampingkan batasan tertentu pada bahasa dan frasa, Anda tidak dapat menggunakannya untuk melakukan aktivitas terlarang.
Tentu saja, tidak semua larangan masuk akal. Jika pedoman yang kaku mempersulit pelaksanaan tugas tertentu, teruslah menulis ulang permintaan Anda. Pilihan kata dan nada sangat memengaruhi keluaran. Anda dapat mengambil inspirasi dari yang paling petunjuk yang efektif dan mendetail di GitHub .
Bagaimana OpenAI Mempelajari Percakapan Pengguna?
Memori kontekstual hanya berlaku untuk percakapan Anda saat ini. Arsitektur tanpa kewarganegaraan ChatGPT memperlakukan percakapan sebagai contoh independen; itu tidak dapat merujuk informasi dari yang sebelumnya. Memulai obrolan baru selalu menyetel ulang status model.
Ini bukan untuk mengatakan bahwa ChatGPT membuang percakapan pengguna secara instan. Ketentuan penggunaan OpenAI menyatakan bahwa perusahaan mengumpulkan masukan dari layanan konsumen non-API seperti ChatGPT dan Dall-E. Anda bahkan dapat meminta salinan riwayat obrolan Anda.
Sementara ChatGPT mengakses percakapan dengan bebas, Kebijakan privasi OpenAI melarang aktivitas yang dapat membahayakan pengguna. Pelatih hanya dapat menggunakan data Anda untuk penelitian dan pengembangan produk.
berapa biaya microsoft word?
Pengembang Mencari Celah
OpenAI menyaring percakapan untuk mencari celah. Ini menganalisis contoh di mana ChatGPT menunjukkan bias data, menghasilkan informasi berbahaya, atau membantu melakukan aktivitas terlarang. Pedoman etika platform terus diubah.
Misalnya, versi pertama dari ChatGPT secara terbuka menjawab pertanyaan tentang pengkodean malware atau membuat bahan peledak. Insiden ini membuat pengguna merasa seperti OpenAI tidak memiliki kendali atas ChatGPT . Untuk mendapatkan kembali kepercayaan publik, ia melatih chatbot untuk menolak pertanyaan apa pun yang mungkin bertentangan dengan pedomannya.
Pelatih Mengumpulkan dan Menganalisis Data
ChatGPT menggunakan teknik pembelajaran yang diawasi. Meskipun platform mengingat semua input, platform tidak mempelajarinya secara real-time. Pelatih OpenAI mengumpulkan dan menganalisisnya terlebih dahulu. Melakukan hal itu memastikan bahwa ChatGPT tidak pernah menyerap informasi berbahaya dan merusak yang diterimanya.
Pembelajaran yang diawasi membutuhkan lebih banyak waktu dan energi daripada teknik tanpa pengawasan. Namun, membiarkan AI untuk menganalisis masukan saja sudah terbukti berbahaya.
Ambil Microsoft Tay sebagai contoh—salah satunya pembelajaran mesin kali salah . Karena terus-menerus menganalisis tweet tanpa panduan pengembang, pengguna jahat akhirnya melatihnya untuk melontarkan opini rasis dan stereotip.
Pengembang Terus Mewaspadai Bias
Beberapa faktor eksternal menyebabkan bias pada AI . Prasangka bawah sadar dapat muncul dari perbedaan dalam model pelatihan, kesalahan dataset, dan pembatasan yang dibangun dengan buruk. Anda akan menemukannya di berbagai aplikasi AI.
Untungnya, ChatGPT tidak pernah menunjukkan bias diskriminatif atau rasial. Mungkin bias terburuk yang diperhatikan pengguna adalah kecenderungan ChatGPT terhadap ideologi sayap kiri, menurut a Pos New York laporan. Platform lebih terbuka menulis tentang topik liberal daripada topik konservatif.
Untuk mengatasi bias ini, OpenAI melarang ChatGPT memberikan wawasan politik sama sekali. Itu hanya bisa menjawab fakta umum.
Moderator Meninjau Performa ChatGPT
Pengguna dapat memberikan umpan balik tentang keluaran ChatGPT. Anda akan menemukan tombol suka dan tidak suka di sisi kanan setiap tanggapan. Yang pertama menunjukkan reaksi positif. Setelah menekan tombol suka atau tidak suka, sebuah jendela akan muncul di mana Anda dapat mengirim umpan balik dengan kata-kata Anda sendiri.
Sistem umpan balik sangat membantu. Beri OpenAI waktu untuk menyaring komentar. Jutaan pengguna mengomentari ChatGPT secara teratur—pengembangnya kemungkinan besar memprioritaskan contoh bias yang parah dan menghasilkan output yang berbahaya.
Apakah Percakapan ChatGPT Anda Aman?
Mempertimbangkan kebijakan privasi OpenAI, Anda dapat yakin bahwa data Anda akan tetap aman. ChatGPT hanya menggunakan percakapan untuk pelatihan data. Pengembangnya mempelajari wawasan yang dikumpulkan untuk meningkatkan akurasi dan keandalan keluaran, bukan mencuri data pribadi.
Dengan demikian, tidak ada sistem AI yang sempurna. ChatGPT pada dasarnya tidak bias, tetapi individu jahat masih dapat mengeksploitasi kerentanannya, misalnya, kesalahan kumpulan data, pelatihan yang ceroboh, dan celah keamanan. Untuk perlindungan Anda, belajarlah untuk memerangi risiko ini.