notatu dignum

a diary of quotes

Skip to content
  • Home

Eliezer Yudkowsky

Engineering should learn from evolution, but never blindly obey it.

Eliezer Yudkowsky, Creating Friendly AI, 2001

This entry was posted in Eliezer Yudkowsky and tagged engineering, evolution on January 15, 2004 by Pablo Stafforini.

Post navigation

← Robin Hahnel Paul Krugman →

Subscribe

Email
RSS

Authors

  • A. C. Grayling
  • A. J. Ayer
  • Aanund Hylland
  • Aaron Clauset
  • Abhijit Banerjee
  • Adam Elga
  • Adam Smith
  • Adolfo Bioy Casares
  • Aesop
  • Al Sweigart
  • Alain de Botton
  • Alan Carter
  • Alan Hájek
  • Alan Hodge
  • Alan Ryan
  • Alan Sokal
  • Alan Turing
  • Alan Walker
  • Alan Watts
  • Alastair Norcross
  • Albert Einstein
  • Aldous Huxley
  • Alejandra Pizarnik
  • Aleksandr Sokurov
  • Alexander Gray
  • Alexander Waugh
  • Alexis de Tocqueville
  • Alfred Hitchcock
  • Alfred Milner
  • Alicia Jurado
  • Allen Wood
  • Alvin Goldman
  • Alyssa Vance
  • Amartya Sen
  • Anaïs Nin
  • Ananyo Bhattacharya
  • Andrei Tarkovsky
  • Andrej Karpathy
  • Andrés Rieznik
  • Andy Sumner
  • Ángel Cappelletti
  • Ann Druyan
  • Anna Funder
  • Anne Garbett Romilly
  • Ansel Adams
  • Anthony Kenny
  • Antoine de Saint-Exupéry
  • Antoinette Baujard
  • Anton Chekhov
  • Antonio Escohotado
  • Antonio Machado
  • Arnold Bennett
  • Arnold Harberger
  • Arthur Cecil Pigou
  • Arthur Eddington
  • Arthur Jensen
  • Arthur Koestler
  • Arthur Miller
  • Arthur Prior
  • Arthur Schopenhauer
  • Ashlee Vance
  • Atul Gawande
  • Aubrey de Grey
  • Augustus De Morgan
  • Ayn Rand
  • Bailey Norwood
  • Barbara Fried
  • Barbara Smuts
  • Beatriz Sarlo
  • Bede Rundle
  • Ben Garfinkel
  • Ben Goldacre
  • Ben MacIntyre
  • Ben Rogers
  • Benjamin Franklin
  • Benjamin Ginsberg
  • Bernard Davis
  • Bernard Williams
  • Bertrand Russell
  • Bhante Henepola Gunaratana
  • Blaise Pascal
  • Bob Harris
  • Brad Bushman
  • Branko Milanovic
  • Brian Barry
  • Brian Charlesworth
  • Brian Doherty
  • Brian Grazer
  • Brian Leiter
  • Brian Tomasik
  • Brian Tracy
  • Brian Weatherson
  • Brooke Alan Trisel
  • Bruce Ackerman
  • Bruce Charlton
  • Bruce Tonn
  • Bryan Caplan
  • Bryan Magee
  • C. D. Broad
  • C. H. Herford
  • C. L. Ten
  • Caitlin Flanagan
  • Cal Newport
  • Camille Flammarion
  • Carl Oglesby
  • Carl Sagan
  • Carlos Escudé
  • Carlos Hernández Blasi
  • Carlos Mastronardi
  • Carlos Santiago Nino
  • Carol Tavris
  • Cary Grant
  • Caryl Chessman
  • Cass Sunstein
  • Charles Bukowski
  • Charles Chaplin
  • Charles Darwin
  • Charles Linderbergh
  • Charles Mackay
  • Charles McGrath
  • Charles Murray
  • Charley Reese
  • Chelsea Handler
  • Cheri Register
  • Chip Heath
  • Chris Hardwick
  • Chris Swoyer
  • Claudio Amor
  • Claudio Tamburrini
  • Colectivo Situaciones
  • Colin McGinn
  • Conrad Johnson
  • Craig Stanford
  • Dale Carnegie
  • Dale Jamieson
  • Damien Keown
  • Dan Ariely
  • Dan Gardner
  • Dan Heath
  • Dan Moller
  • Dani Rodrik
  • Daniel Dennett
  • Daniel Gilbert
  • Daniel Kahneman
  • Daniel Kevles
  • Daniel Keyes
  • Daniel Nettle
  • Daniel Sabsay
  • Daniel Stoljar
  • Daphne Patai
  • Dario Maestripieri
  • Darrell Huff
  • David Benatar
  • David Bjorklund
  • David Brink
  • David Buss
  • David Centerbar
  • David Chalmers
  • David Copp
  • David Cronenberg
  • David DeGrazia
  • David Edwards (journalist)
  • David Edwards (math professor)
  • David Enoch
  • David Hoffman
  • David Hume
  • David Leonhardt
  • David Lewis
  • David Lyons
  • David Miller
  • David Myers
  • David Papineau
  • David Pears
  • David Reich
  • David Schmidtz
  • David Schmitt
  • David Schweickart
  • David Spurrett
  • David Sumpter
  • David Wallace
  • David Wootton
  • Deborah Charlesworth
  • Deborah Kermer
  • Deborah Rhode
  • Demis Hassabis
  • Derek Parfit
  • Derren Brown
  • Diane Halpern
  • Domingo Faustino Sarmiento
  • Don Herzog
  • Don Ross
  • Donald Brownlee
  • Donald Davidson
  • Donald Hubin
  • Donald Keene
  • Donald Lopez
  • Donald Regan
  • Dossie Easton
  • Douglas Hofstadter
  • Douglas Hubbard
  • Drew McDermott
  • Dusty Phillips
  • Dylan Matthews
  • E. B. White
  • E. E. Cummings
  • E. F. Schumacher
  • Ed Mirvish
  • Ed Regis
  • Edgar Allan Poe
  • Edgar Zilsel
  • Edgardo Cozarinsky
  • Edith Bone
  • Eduardo Berti
  • Eduardo Giannetti
  • Eduardo Gilimón
  • Edward Gibbon
  • Edward Herman
  • Edward Lockspeiser
  • Edward Said
  • Edward Thorp
  • Edward Wilson
  • Eliezer Yudkowsky
  • Elliot Aronson
  • Emma Goldman
  • Enrique Cadícamo
  • Enrique Marí
  • Enrique Villegas
  • Eric Drexler
  • Eric Hobsbawm
  • Eric Kandel
  • Eric Olson
  • Eric Ries
  • Ernesto Garzón Valdés
  • Ernst Gombrich
  • Esther Duflo
  • Eugene Ehrlich
  • Eugenio Zaffaroni
  • Evan Osnos
  • Evan Williams
  • Everett Mattlin
  • Ewa Szymanska
  • Ezequiel Adamovsky
  • Ezequiel Martínez Estrada
  • F. H. Bool
  • Félix Ovejero
  • Fernando Iglesias
  • Fernando Pessoa
  • Fernando Tesón
  • Florentino Ameghino
  • Frances Kamm
  • Francesco Algarotti
  • Francis Galton
  • Francis George Fowler
  • Francis Ysidro Edgeworth
  • Francis-Noël Thomas
  • Francisco Luis Bernárdez
  • Francisco Romero
  • François de La Rochefoucauld
  • François Truffaut
  • Frank Jackson
  • Frank Tallis
  • Frank Tipler
  • Franz Grillparzer
  • Fred Branfman
  • Fred Feldman
  • Fred Hapgood
  • Fred Rogers
  • Frederic Morton
  • Frederick Douglass
  • Frederick Maurice
  • Frederick Soddy
  • Friedrich Nietzsche
  • G. A. Cohen
  • G. E. Moore
  • G. H. Hardy
  • G. K. Chesterton
  • Galen Strawson
  • Garrett Hardin
  • Gary Francione
  • Genaro Carrió
  • Geoff Colvin
  • Geoffrey Landis
  • Geoffrey Lean
  • Geoffrey Miller
  • Geoffrey Scarre
  • George Bernard Shaw
  • George Cobb
  • George Crane
  • George Gamow
  • George Hartmann
  • George Herbert
  • George Ivanovich Gurdjieff
  • George Orwell
  • George Schlesinger
  • George Soros
  • George Steiner
  • George Woodcock
  • Gerd Gigerenzer
  • Getchen Vogel
  • Gina Trapani
  • Giovanni Sartori
  • Glenn Geher
  • Gopal Sreenivasan
  • Gordon Gallup
  • Gore Vidal
  • Graham Oddie
  • Greg Egan
  • Gregorio Klimovsky
  • Gregory Clark
  • Gregory Cochran
  • Gregory Stock
  • Guy Kahane
  • Gwern Branwen
  • H. L. A. Hart
  • H. L. Mencken
  • Hal Harvey
  • Hannah Arendt
  • Hans Eysenck
  • Hans Magnus Enzensberger
  • Hans Rosling
  • Harold Hotelling
  • Harold Laski
  • Harry Frankfurt
  • Helen Fisher
  • Helen Keller
  • Henry David Thoreau
  • Henry Digby Beste
  • Henry Harpending
  • Henry Morton Stanley
  • Henry Salt
  • Henry Sidgwick
  • Henry Spira
  • Henry Watson Fowler
  • Herman Melville
  • Hermann Joseph Muller
  • Herrade Igersheim
  • Hilary Putnam
  • Hillary Clinton
  • Holden Karnofsky
  • Horacio González
  • Hugh Ristik
  • Hugo Grotius
  • Hunter Thompson
  • Huw Price
  • I. J. Good
  • I. L. Humberstone
  • Ian Eslick
  • Ian Rowland
  • Immanuel Kant
  • Imre Lakatos
  • Iohannes Baptista van Helmont
  • Ira Gershwin
  • Irene Tracey
  • Isaac Levi
  • Isaiah Berlin
  • István Hargittai
  • J. J. C. Smart
  • J. L. Mackie
  • J. P. Moreland
  • Jack Kerouac
  • Jack Schwager
  • Jacqueline Minett Wilkinson
  • Jaegwon Kim
  • Jaime Kurtz
  • James Boswell
  • James Fishkin
  • James Fitzjames Stephen
  • James Flynn
  • James Fowler
  • James Griffin
  • James Hillman
  • James Joyce
  • James Ladyman
  • James Lee
  • James MacKaye
  • James Mill
  • James Miller
  • James O'Neill
  • James Rachels
  • James Seth
  • James Sinclair
  • James Watson
  • Jamie Mayerfeld
  • Jan Łukasiewicz
  • Jan Narveson
  • Jane Austen
  • Jane Brown Thompson
  • Janet Hardy
  • Janet Radcliffe Richards
  • Jason Brennan
  • Jason Riis
  • Jayson Lusk
  • Jean Bricmont
  • Jean Drèze
  • Jean-Jacques Rousseau
  • Jeff McMahan
  • Jeffrey Reiman
  • Jeffry Simpson
  • Jennifer Nagel
  • Jens Timmermann
  • Jeremy Bentham
  • Jeremy Mayerfeld
  • Jeremy Waldron
  • Jiddu Krishnamurti
  • Jim Holt
  • Jim Mason
  • Jimmy Carter
  • Joel Feinberg
  • John Austin
  • John Backus
  • John Barrow
  • John Berryman
  • John Broome
  • John Cacioppo
  • John Campbell
  • John Cassavetes
  • John Collier
  • John Crowley
  • John Desmond Bernal
  • John Dunn
  • John Gray
  • John Harris
  • John Hospers
  • John Kenneth Galbraith
  • John Leslie
  • John Locke
  • John Lucas
  • John Maynard Keynes
  • John McTaggart
  • John Milton
  • John Perry
  • John Post
  • John Rawls
  • John Schaefer
  • John Searle
  • John Skorupski
  • John Stuart Mill
  • John Taurek
  • John Teasdale
  • John Thelwall
  • Jon Elster
  • Jon Kabat-Zinn
  • Jonathan Barnes
  • Jonathan Baron
  • Jonathan Glover
  • Jonathan Haidt
  • Jonathan Schell
  • Jorge Dotti
  • Jorge Luis Borges
  • Jorge Malem Seña
  • José Ferrater Mora
  • José Gallegos Rocafull
  • José Nun
  • José Onaindia
  • José Ortega y Gasset
  • José Raúl Capablanca
  • Joseph Epstein
  • Joseph Schumpeter
  • Joshua Foer
  • Joshua Greene
  • Juan Gabriel López Guix
  • Juan José Saer
  • Juan José Sebreli
  • Juan Suriano
  • Judith Jarvis Thomson
  • Judy Jones
  • Julian Huxley
  • Julian Savulescu
  • Julio Cortázar
  • Kai Nielsen
  • Kanji Watanabe
  • Karl Duncker
  • Karl Marx
  • Karl Popper
  • Katarzyna de Lazari-Radek
  • Kathryn Paige Harden
  • Kay Redfield Jamison
  • Keith Stanovich
  • Kelly McGonigal
  • Ken Coates
  • Kenneth Williams
  • Kent Berridge
  • Kevin Dutton
  • Kevin Simler
  • Kit Fine
  • Kok-Chor Tan
  • Krister Bykvist
  • Lant Pricthett
  • Larissa MacFarquhar
  • Larry Temkin
  • Lee Smolin
  • Leif Wenar
  • Leó Szilárd
  • Leon Louw
  • Leonard Katz
  • Leonard Mlodinow
  • Leonardo Favio
  • Leonardo Filippini
  • Leopoldo Lugones
  • Leslie Stephen
  • Lewis Mancini
  • Liam Murphy
  • Lisa Margarrell
  • Lord Byron
  • Loren Lomasky
  • Lori Gruen
  • Louis Kaplow
  • Louis Menand
  • Louis Pascal
  • Loyal Rue
  • Lucas Grosman
  • Lucas Llach
  • Lucius Annaeus Seneca
  • Ludwig von Mises
  • Ludwig Wittgenstein
  • Luis Alberto Romero
  • Luis Scalise
  • M. E. Thomas
  • Macedonio Fernández
  • Manfred Kuehn
  • Marc Sagoff
  • Marcos Novaro
  • Marcus Tullius Cicero
  • Margaret Paul
  • María Esther Vázquez
  • Maria Popova
  • Mario Bunge
  • Mark Balaguer
  • Mark Johnston
  • Mark Lilla
  • Mark Turner
  • Mark Williams
  • Markus Wolf
  • Marshall Rosenberg
  • Martin Esslin
  • Martin Gardner
  • Martin Rees
  • Martin Seligman
  • Marvin Levine
  • Mary Midgley
  • Mary Shelley
  • Marya Hornbacher
  • Matt Ridley
  • Matthew White
  • Max Black
  • Michael Bailey
  • Michael Benton
  • Michael Gazzaniga
  • Michael Huemer
  • Michael Lewis
  • Michael Lockwood
  • Michael Oakeshott
  • Michael Pearce
  • Michael Smith
  • Michael Ventura
  • Michel de Montaigne
  • Miguel Braun
  • Miguel de Cervantes
  • Miguel de Unamuno
  • Milton Friedman
  • Morton Halperin
  • MTD de Solano
  • Mumon
  • Murray Bookchin
  • Murray Rothbard
  • Nassim Nicholas Taleb
  • Nassir Ghaemi
  • Nate Silver
  • Nathan Rothschild
  • Nathaniel Branden
  • Nature
  • Neil Sinhababu
  • Nicholas Christakis
  • Nicholas Rescher
  • Nick Beckstead
  • Nick Bostrom
  • Nick Cooney
  • Nick Winter
  • Nicolas Guéguen
  • Nicolas Slonimsky
  • Niels Bohr
  • Noam Chomsky
  • Norman Birnbaum
  • Norman Cousins
  • Norman Finkelstein
  • Norman Malcolm
  • Ogi Ogas
  • Old Testament
  • Ole Martin Moen
  • Oliver Kamm
  • Orson Welles
  • Oscar Terán
  • Oscar Wilde
  • Osvaldo Guariglia
  • Otto Neurath
  • Pablo Giussani
  • Pablo Neruda
  • Panayot Butchvarov
  • Patricia Highsmith
  • Patrick Wall
  • Paul Bloom
  • Paul Brest
  • Paul Davies
  • Paul Edwards
  • Paul Feyerabend
  • Paul Goodman
  • Paul Graham
  • Paul Groussac
  • Paul Hindemith
  • Paul Krugman
  • Paul Silvia
  • Paul Streeten
  • Paul Theroux
  • Percy Arthur Barnett
  • Percy Bysshe Shelley
  • Perry Anderson
  • Peter Andras
  • Peter Cain
  • Peter Cheeke
  • Peter Geach
  • Peter Gray
  • Peter Grosvenor
  • Peter Mere Latham
  • Peter Railton
  • Peter Richerson
  • Peter Singer
  • Peter Strawson
  • Peter Suber
  • Peter Unger
  • Peter van Inwagen
  • Peter Ward
  • Philip Dormer Stanhope
  • Philip Kitcher
  • Philip Oppenheim
  • Philip Tetlock
  • Pierre-Claude de la Chaussee
  • Piers Steel
  • Quentin Smith
  • R. G. Frey
  • R. M. Hare
  • Rafael Barrett
  • Ralph Vaughan Williams
  • Ramit Sethi
  • Randolph Nesse
  • Ray Carney
  • Ray Kurzweil
  • Ray Monk
  • Rebecca Roache
  • Regina Nuzzo
  • René Descartes
  • Ricardo López Murphy
  • Ricardo Piglia
  • Richard Branson
  • Richard Chappell
  • Richard Dawkins
  • Richard Feynman
  • Richard Gott
  • Richard Layard
  • Richard Leakey
  • Richard Muller
  • Richard Nisbett
  • Richard Posner
  • Richard Reeves
  • Richard Shryock
  • Richard Steele
  • Richard Swinburne
  • Richard Thaler
  • Richard Wiseman
  • Richard Wolin
  • Robert Axelrod
  • Robert Boyd
  • Robert Burton
  • Robert Buswell
  • Robert Caro
  • Robert Craft
  • Robert Dahl
  • Robert Fisk
  • Robert Goodin
  • Robert Graves
  • Robert Kennedy
  • Robert Kurzban
  • Robert Levine
  • Robert Louis Stevenson
  • Robert Lucas
  • Robert Nozick
  • Robert Pargetter
  • Robert Paul Wolff
  • Robert Recorde
  • Robert Sawyer
  • Robert Simon
  • Robert Solomon
  • Robert Trivers
  • Robert Wright
  • Roberto Bolaño
  • Roberto Gargarella
  • Robin Hahnel
  • Robin Hanson
  • Robyn Dawes
  • Rodolfo Mondolfo
  • Roger Brown
  • Roger Crisp
  • Roger Lewin
  • Roger Scruton
  • Ron Chernow
  • Ronald Dworkin
  • Ronald Melzack
  • Ronald Milo
  • Roy Baumeister
  • Roy Walford
  • Rudolf Carnap
  • Ruth Hurmence Green
  • S. H. Steinberg
  • Sai Gaddam
  • Sam Harris
  • Samuel Butler
  • Samuel Johnson
  • Samuel Pepys
  • Samuel Scheffler
  • Samuel Taylor Coleridge
  • Santiago Davobe
  • Santos Cifuentes
  • Satoshi Kanazawa
  • Saul Smilansky
  • Scott Aaronson
  • Scott Alexander
  • Scott Armstrong
  • Scott Barry Kaufman
  • Scott Siskind
  • Scott Sumner
  • Scott Young
  • Sean Thomas
  • Seth Roberts
  • Seth Stephens-Davidowitz
  • Sharon Beder
  • Sheldon Reaven
  • Shelly Kagan
  • Shirin Ebadi
  • Siang Ng
  • Simon Blackburn
  • Simon Conway Morris
  • Siri Leknes
  • Sonja Lyubomirsky
  • Sophia Reibetanz
  • Stanisław Lem
  • Stanisław Ulam
  • Stanley Smith Stevens
  • Stefan Zweig
  • Stephen Budiansky
  • Stephen Ceci
  • Stephen Clark
  • Stephen Dubner
  • Stephen Grover
  • Stephen Hawking
  • Stephen Holmes
  • Stephen Sapontzis
  • Stephen Stich
  • Steve Andreas
  • Steve Pavlina
  • Steven Gangestad
  • Steven Landsburg
  • Steven Levitt
  • Steven Pinker
  • Steven Radelet
  • Steven Shavell
  • Steven Weinberg
  • Steven Zaillian
  • Stewart Goetz
  • Stuart Rachels
  • Sydney Pollack
  • T. S. Eliot
  • Ted Chiang
  • Ted Honderich
  • Terri Cheney
  • The Meadow Keepers and Constables of Christ Church
  • Theo Redpath
  • Thomas Babington Macaulay
  • Thomas Carlyle
  • Thomas De Quincey
  • Thomas Henry Huxley
  • Thomas Hobbes
  • Thomas Hurka
  • Thomas Jefferson
  • Thomas Kelly
  • Thomas Malthus
  • Thomas Metzinger
  • Thomas Moro Simpson
  • Thomas Nagel
  • Thomas Pogge
  • Thomas Reid
  • Thomas Schelling
  • Thomas Sowell
  • Tim Harford
  • Tim Mulgan
  • Tim Wu
  • Timothy Gallwey
  • Timothy Leary
  • Timothy Sprigge
  • Timothy Williamson
  • Timothy Wilson
  • Toby Ord
  • Tomás Abraham
  • Tomás Eloy Martínez
  • Tony Judt
  • Torbjörn Tännsjö
  • Tristam Hunt
  • Truman Capote
  • Tucker Max
  • Tulio Halperín Donghi
  • Tyler Cowen
  • Tynan
  • Ursula Le Guin
  • V. S. Ramachandran
  • Vance Packard
  • Vicente Fatone
  • Vlady Kociancich
  • Voltaire
  • W. D. Ross
  • W. H. Auden
  • Walter Kaufmann
  • Wayne Sumner
  • Wendy Williams
  • Will Kymlicka
  • Will Wilkinson
  • Willard Van Orman Quine
  • William Alston
  • William Blake
  • William Burroughs
  • William Butler Yeats
  • William Easterly
  • William Godwin
  • William James
  • William Lane Craig
  • William Lycan
  • William Patrick
  • William Poundstone
  • William Rowe
  • William Shakespeare
  • William Shaw
  • William Shepard Walsh
  • William Strunk
  • William Styron
  • William Talbott
  • William Thomas
  • William Wilson
  • William Wordsworth
  • Xul Solar
  • Yehudi Menuhin
  • Yew-Kwang Ng
  • Zell Kravinsky
  • Zindel Seagal

Tags

  • anarchism
  • animal suffering
  • argentina
  • badness of pain
  • bias
  • capitalism
  • consequentialism
  • death
  • debunking arguments
  • education
  • ethics
  • evolution
  • evolution and morality
  • favorite
  • free will
  • happiness
  • human condition
  • human extinction
  • human nature
  • humorous
  • ideology
  • intelligence
  • intuition
  • irrationality
  • libertarianism
  • love
  • marxism
  • mathematics
  • meaning of life
  • pain
  • personal identity
  • philosophical methodology
  • philosophy
  • pleasure
  • poetry
  • postmodernism
  • religion
  • science
  • self-deception
  • skepticism
  • suffering
  • time
  • utilitarianism
  • war
  • why anything?

Un hombre se propone la tarea de dibujar el mundo. A lo largo de los años puebla un espacio con imágenes de provincias, de reinos, de montañas, de bahías, de naves, de islas, de peces, de habitaciones, de instrumentos, de astros, de caballos y de personas. Poco antes de morir, descubre que ese paciente laberinto de líneas traza la imagen de su cara.

Jorge Luis Borges

Proudly powered by WordPress