A Gift of Fire: Social, Legal, and

Ethical Issues for Computers and

the Internet
(2nd Edition)
by Sara Baase

A Gift of Fire
Can We Trust the Computer?
Apa yang dapat menjadikan salah?
Peningkatan Keandalan dan Keamanan
Perspektif pada Kegagalan, Ketergantungan,
Resiko, dan Pertumbuhan
Model Komputer

What Can Go Wrong?

Facts About Computer Errors
Kesalahan pada free software bisa
terjadi.
Kesalahan seringkali disebabkan oleh
lebih dari satu faktor.
Kesalahan dapat dikurangi dengan
mengikuti prosedur yang baik dan
praktik profesional.

What Can Go Wrong?

Peranan Manusia dalam Masalah yang
berhubungan dengan komputer:
User Komputer

Di rumah atau kerja, users seharusnya memahami

keterbatasan komputer dan kebutuhan pelatihan
yang tepat dan penggunaan yang bertanggung
jawab.

Computer Professional

Memahami sumber dan konsekuensi dari kesalahan

komputer sangat bermanfaat apabila membeli,
mengembangakan, atau mengelola sistem yang
kompleks.

Mengajari Anggota Masyarakat

Keputusan personal dan keputusan politik, sosial,

dan ethik tergantung pada pemahaman pada resiko
komputer.

What Can Go Wrong?

Kategori dari Kesalahan dan Kegagalan
Komputer
Masalah untuk Individu:
Seringkali peran mereka sebagai konsumen.
Yang diidentifikasikan tidak tepat oleh law
enforcement databases.

Kesalalahan Sistem:
Memberi dampak pada sejumlah besar orang
dan/atau mengeluarkan biaya yang besar (costing
large amounts of money).

Safety-Critical Applications:
Dimana orang mungkin terluka atau terbunuh.

What Can Go Wrong?

Masalah bagi Individu
Kesalahan Pembayaran (Billing Errors)
Kurangnya tes untuk ketidak konsistenan
dan ketidak tepatan jumlah.

Masalah akurasi Database

informasi yang salah menyebabkan
perlakuan atau tindakan yang salah.

What Can Go Wrong?

Masalah bagi Individu (lanjutan)
Penyebab:
Penduduk yang besar.
Kebiasaan yang lazim dari manusia bukan
bagian dari otomatisasi pemrosesan.
Terlalu percaya pada keakuratan data yang
berasal dari komputer.
Kesalalahn dalam data entry.
Informasi tidak di-updated atau dikoreksi
Kurangnya tanggung jawab untuk suatu
kesalahan (Lack of accountability for errors).

What Can Go Wrong?

Kegagalan Sistem
Komunikasi:
Telephone, online, dan broadcast services.

Bisnis:
Inventory and management software.

Keuangan:
Stock exchange, brokerages, banks, etc.

Transportasi:
Reservations, ticketing, and baggage
handling.

What Can Go Wrong?

Kegagalan Sistem (lanjutan)
Penyebab:
Test yang tidak cukup dan debugging time.
Perubahan penting pada spesifikasi (selama
dan sesudah mulainya proyek).
Terlalu percaya pada sistem.
Mismanagement dari proyek.

What Can Go Wrong?

Safety-Critical Applications
Militer
Tenaga Listerik
Kapal terbang
Kereta Api
Pabrik yang Terotomatisasi (Automated
Factories)
Kesehatan
Lainnya.

What Can Go Wrong?

Safety-Critical Applications
Penyebab:
Terlalu Percaya (Overconfidence).
Kurangnya gambaran yang ditolak (Lack of
override features).
Tes yang kurang cukup (Insufficient testing).
Tipisnya kompleksitas sistem (Sheer
complexity of system).
Mismanagement.

Studi Kasus: The Therac-25

Atomic Energy of Canada Limited (AECL)
The Therac-25 adalah mesin softwarecontrolled radiation-therapy yang
digunakan untuk merawat orang
yang terkena kanker (used to treat
people with cancer). (1985 1987)
Overdoses dari radiasi
Normal dosage adalah 100200 rads.
Diperkirakan 13,000 dan 25,000 rads
diberikan kepada enam orang.
Tiga di antara enam orang tadi meninggal

Studi Kasus: The Therac-25

Therac-25 Radiation Overdose
Penyebab banyak:
Design keamanan yang jelek.
Testing and debugging yang kurang cukup.
Kesalahan Software.
Kurangnya safety interlocks.
Terlalu percaya diri (Overconfidence).
Laporan dan investigasi yang kurang
memadai dari kecelakaan.

Why Nuclear
Pembangkit listrik tenaga nuklir dapat
mengurangi 155 juta ton metrik CO2 yang
sedianya akan dihasilkan oleh pembangkit
tenaga bahan bakar fosil (minyak dan
batubara).
Pembangkit listrik tenaga nuklir yang ada
saat ini dapat menyebabkan hilangnya 59
juta metrik ton CO2 pada tahun 2020

Peningkatan Keandalan dan

Keamanan
What Goes Wrong?
Sistem Komputer Gagal Karena:
Kerja yang mereka lakukan sifatnya sulit,
dan
Kerjanya dilakukan dengan jelek.

Penggabungan Issue Keandalan:

Pengembang dan users menunjukkan terlalu
percaya diri (exhibit overconfidence) dalam
sistem.
Reused system software mungkin tidak
bekerja pada lingkungan yang berbeda

Peningkatan Keandalan dan

Keamanan
Professional Techniques
Ikuti mempratekkan software yang bagus.
Perlihatkan tanggung jawab professional pada semua
tingkatan pembangunan dan penggunaan
Bangun user interfaces yang didesain bagus.
Perhitungkan faktor manusia (Take human factors
into account).
Termasuk pengulangan yang berlebihan (built-in
redundancy).
Memasukkan self-checking apabila sesuai.
Ikuti prinsip testing dan teknik (testing principals and
techniques) yang baik.

Peningkatan Keandalan dan

Keamanan
Hukum dan Regulasi

Hukuman untuk kriminal dan sipil

(Criminal and Civil Penalties):

Memperoleh kembali kehilangan dari sistem yang

salah dan tidak aman.
Pertanggungan jawab dan Hukum Sipil:
Memberikan insentif untuk memproduksi sistem yang
andal dan aman.

Jaminan (Warranties):

Menjamin tingkat tertentu pada mutunya (to

guarantee a certain level of quality).

Regulasi Pemerintah Pusat atau Daerah:

Memproteksi publik.

Peningkatan Keandalan dan

Keamanan
Hukum dan Regulasi (lanjutan)
Database Accuracy Enforcement:
Untuk memproteksi publik dari informasi yang tidak
akurat yang di-maintained oleh perusahaan swasta
dan pemerintah.

Diperintahkan untuk mendapatkan lisensi

Software Developers:
Untuk menjamin pelatihan yang benar, kompetensi,
dan pendiikan berkelanjutan (continuing education).

Cisco Certified Network Associate (CCNA)

Microsoft Certified Systems Administrator (MCSA)
Microsoft Certified Technology Specialist (MCTS)
The Microsoft Certified IT Professional (MCITP)
The Microsoft Certified Professional Developer (MCPD)
Microsoft Certified Systems Engineers (MCSEs)
Microsoft Certified Application Developers (MCADs)

Perspectif pada Kegagalan,

Ketergantungan, Risiko, dan Progress
Kegagalan

Apa kecenderungan kegagalan yang dapat diterima? (What

are acceptable rates of failures?)
Seberapa seharusnya akurasi software tersebut? (How
accurate should software be?)

Ketergantungan

Seberapa ketergantungan pada sistem komputer dari

kegiatan yang biasa kita lakukan? (How dependent on
computer systems are our ordinary activities?)
Seberapa berguna sistem komputer pada kegiatan yang
biasa kita lakukan? (How useful are computer systems to
our ordinary activities?)

Risiko dan Progress

Bagaimana teknologi menjadi lebih aman? (How do new

technologies become safer?)
Dapatkah kemajuan dalam keamanan software dapat
mencapai langkah perubahan dalam teknologi komputer?
(Can progress in software safety keep up with the pace of
change in computer technology?)