diff options
Diffstat (limited to 'events/2012/cteme.mdwn')
| -rw-r--r-- | events/2012/cteme.mdwn | 1061 |
1 files changed, 1061 insertions, 0 deletions
diff --git a/events/2012/cteme.mdwn b/events/2012/cteme.mdwn new file mode 100644 index 0000000..09bdfec --- /dev/null +++ b/events/2012/cteme.mdwn @@ -0,0 +1,1061 @@ +[[!meta title="O Teste de Turing e a Tomada de Consciência"]] + + _ _ _ _ _ + ___ | |_ ___ ___| |_ ___ __| | ___ | |_ _ _ _ __(_)_ __ __ _ + / _ \ | __/ _ \/ __| __/ _ \ / _` |/ _ \ | __| | | | '__| | '_ \ / _` | + | (_) | | || __/\__ \ || __/ | (_| | __/ | |_| |_| | | | | | | | (_| | + \___/ \__\___||___/\__\___| \__,_|\___| \__|\__,_|_| |_|_| |_|\__, | + |___/ + + _ _ _ + ___ __ _ | |_ ___ _ __ ___ __ _ __| | __ _ __| | ___ + / _ \ / _` | | __/ _ \| '_ ` _ \ / _` |/ _` |/ _` | / _` |/ _ \ + | __/ | (_| | | || (_) | | | | | | (_| | (_| | (_| | | (_| | __/ + \___| \__,_| \__\___/|_| |_| |_|\__,_|\__,_|\__,_| \__,_|\___| + + _ _ + ___ ___ _ __ ___ ___(_) ___ _ __ ___(_) __ _ + / __/ _ \| '_ \/ __|/ __| |/ _ \ '_ \ / __| |/ _` | + | (_| (_) | | | \__ \ (__| | __/ | | | (__| | (_| | + \___\___/|_| |_|___/\___|_|\___|_| |_|\___|_|\__,_| + + _____ + / \ + | () () | Todo mundo pronto para pirar o cabeção? + \ ^ / + ||||| + ||||| + +Dedicatória +----------- + +Esta fala é dedicada a Alan Turing, que conjuntamente com Charles Babbage, Joseph Jacquard, +Ada Lovelace e outros são os fundadores da computação. + +Neste ano de 2012 é comemorado o centenário de nascimento de Turing. + +Oi +-- + +Sou técnico em eletrônica, bacharel em computação, DevOp (desenvolvedor/operador) de computadores +desde os 16 anos. Boa parte dos resultados desta pesquisa fazem parte de discussões realizadas +no Saravá, grupo de estudos iniciado na Unicamp e que também conta com pesquisadores/as +independententes ou de outras instituições. + +Esta fala deve ser entendida como alguém com formação técnica e não filosófica/sociológica que +teve um primeiro contato com Simondon. + +Estas notas contém imprecisões! Brainstorming condensado. + +Introdução +---------- + +O mais grave problema no debate sobre a filosofia da computação é a ausência da política. +Sinto que a ausência de educação formal na área me permite levar algumas coisas ao +extremo. Não vou me preocupar se, ao desmontar e remontar a teoria, alguns parafusos +sobrarem. É tarefa do debate saber se a gambiarra é satisfatória. + +Este é um tema que me instiga muito. + +O que quero levar exatamente ao extremo? A começar, o seguinte trecho de Simondon: + + Este estudo é animado pela intenção de suscitar uma tomada de consciência do + sentido dos objetos técnicos. A cultura se consitui como sistema de defesa + contra as técnicas; ora, essa defesa se apresenta como uma defesa do homam, + supondo que os objetos técnicos não contém realidade humana [...] + + [...] + + A tomada de consciência dos modos de existência dos objetos técnicos deve ser + efetuada pelo pensamento filosófico, que deve cumprir aqui um dever análogo + àquele que desempenhou na abolição da escravidão e na afirmação da pessoa + humana. + + A oposição entre a cultura e a técnica, entre o homem e a máquina, é falsa e + sem fundamento. + + -- Nada #11, pág. 169 + +Sempre que leio o trecho sobre o abolicionismo, me pergunto se a ambiguidade do +parágrafo sobre o abolicionismo é acidental, proposital ou um efeito da +tradução. Sendo falsa a oposição entre humano e máquina, a tomada de +consciência se dá na mente do humano ou também no interior da máquina? +Analogamente, havendo consciência, a abolição também seria do humano? + +Retomemos essas questões mais adiante. + +Para início de conversa, o pensamento de Simondon é contemporâneo ao +desenvolvimento da cibernética dos anos 50, na aurora da revolução da +informática, porém apresenta-se como uma espécie de contraponto. + +Ele é muito feliz ao se concentrar em sistemas termodinâmicos (motor) e +eletrônicos (válvulas) e deles extrair conceitos da dinâmica evolutiva dos +objetos técnicos. Sua análise da evolução dos objetos técnicos permitiu o +estabelecimento de uma filogenética das máquinas. + +Sua visão do evolucionismo das máquinas é baseada no seu próprio funcionamento. + +Ele não se limita apenas à noção central / essência da teoria da cibernética -- à +qual considera ambiciosa demais por declarar sua generalidade -- o feedback, ou +retroalimentação, que explica o funcionamento de muitos dispositivos. + +Mas, ao invés de se preender ao feedback, Simondon formula o que é _essencial_ +num objeto técnico: a noção de informação. Num diodo, ou transistor, por exemplo, +sua curva de funcionamento é sua essência: + + - https://en.wikipedia.org/wiki/File:Diode-IV-Curve.svg + - https://en.wikipedia.org/wiki/Diode + +Analogamente, o feedback seria uma das essências das tecnologias cibernéticas. + +Nos diodos, vale notar, a essência é dada pela equação de Shockley (o inventor do transistor): +https://en.wikipedia.org/wiki/Diode#Shockley_diode_equation + +(Shockley, diga-se de passagem, era um controverso defensor da eugenia. +A política se manifesta em todo lugar.) + +Mas a essência do objeto técnico não é o objeto técnico. Digamos que a segunda +etapa seja a máquina abstrata, algo como seu blueprint, diagrama de blocos, +infográfico, etc. O interessante é que a essência de uma máquina pode ser +apresentar em diversas máquinas abstratas diferentes: + + - Diodo semicondutor: https://en.wikipedia.org/wiki/P%E2%80%93n_diode + + - Diodo de tubo: https://en.wikipedia.org/wiki/File:Diode_tube_schematic.svg + +Note que essas duas máquinas abstratas, que traduzem a seu modo a mesma essência +do diodo, isto é, uma relação não-linear entre tensão e corrente, funcionam +mediante princípios físicos distintos!!! + +Mas a máquina abstrata ainda não é a máquina. Esta seria a máquina concreta, +o objeto físico: + + - https://en.wikipedia.org/wiki/File:Dioden2.jpg + +Tal objeto, por ser físico, não é constituído apenas pela essência traduzida +em abstração traduzida em matéria. Ele é constituído por mais: por efeitos de +ordens maiores, por espúrios, por influências ambientais, por outros fenômenos. + + Each structure fulfils a number of functions; but in the abstract technical + object each structure fulfils only one essential and positive function that is + integrated into the functioning of the whole, whereas in the concrete technical + object all functions fulfilled by a particular structure are positive, + essential, and integrated into the functioning of the whole. + + -- MEOT, pág. 31 + +Em todos essas etapas -- essencia, abstrata e concreta -- a _margem de +indeterminação_ do objeto técnico pode ser calibrada, isto é, a sensibilidade +da máquina à informação externa. + +No plano teórico, a relação entre seu método anaĺítico e o objeto de estudo +passa igualmente por tal influência: as relações entre subsistemas das máquinas +são adotadas, mesmo que implicitamente, para explicar o a relação entre humanos +e máquinas. + + é preciso atentar para o fato de que é só por se interessar pelo funcionamento + que Simondon extrai dele um pensamento. Esse pensamento não é, em termos + simondonianos, a priori. O pensamento é construído junto. Não existe nada dado + previamente. + + -- https://cteme.wordpress.com/2011/04/04/aula-do-laymert-30032011/ + +Daí a sinergia entre humano e máquina, o humano como orquestrador das máquinas. +Numa orquestra, o maestro influencia os/as músicos que por sua vez afetam a +performance do maestro. + + Uma relação reguladora de causalidade circular não pode se estabelecer entre o + conjunto da realidade governada e a função de autoridade. + -- Nada #11 pág. 173 + + Essa extensão da cultura, suprimindo uma das principais fontes de alienação e + restabelecendo a informação reguladora, possui um valor político e social: ela + pode dar ao homem meios para pensar a sua existência e a sua situação em função + da realidade que o rodeia. + -- Nada #11 págs. 173-174 + +Creio que seja o momento de prosseguir com este raciocínio. Para tanto, +invocarei um objeto técnico descendente de linhagens de aparatos cibernéticos: +o computador. + +Por que colocar o computador numa posição central do debate contemporâneo sobre +a tecnologia? + + we don't have airplanes anymore, we have flying Solaris boxes with a big + bucketful of SCADA controllers [laughter]; a 3D printer is not a device, it's a + peripheral, and it only works connected to a computer; a radio is no longer a + crystal, it's a general-purpose computer with a fast ADC and a fast DAC and + some software. + + -- https://github.com/jwise/28c3-doctorow/blob/master/transcript.md + +Ok! Mas estamos avançando muito rápido. Hora do estudo de caso!!! + +O jogo da imitação +------------------ + +Quem foi Alan Turing? Ótimo exemplo de como um cientista e tecnólogo concebia +filosoficamente a máquina. + +Cronologia: + + - 1936 - Máquina universal de Turing + - 1950 - Computing Machinery and Intelligence + - 1958 - Os modos de existência dos objetos técnicos + + De http://www.abelard.org/turpap/turpap.php + + This special property of digital computers, that they can mimic any discrete + state machine, is described by saying that they are universal machines. The + existence of machines with this property has the important consequence that, + considerations of speed apart, it is unnecessary to design various new machines + to do various computing processes. They can all be {p.442} done with one + digital computer, suitably programmed for each case. It will be seen that as a + consequence of this all digital computers are in a sense equivalent. + + [...] + + It is likely to be quite strong in intellectual people, since they value the + power of thinking more highly than others, and are more inclined to base their + belief in the superiority of Man on this power. + + I do not think that this argument is sufficiently substantial to require + refutation. Consolation would be more appropriate: perhaps this should be + sought in the transmigration of souls. + + [...] + + For suppose that some discrete-state machine has the property. The Analytical + Engine was a universal digital computer, so that, if its storage capacity and + speed were adequate, it could by suitable programming be made to mimic the + machine in question. + + [...] + + Instead of trying to produce a programme to simulate the adult mind, why not + rather try to produce one which simulates the child's? If this were then + subjected to an appropriate course of education one would obtain the adult + brain. Presumably the child-brain is something like a note-book as one buys it + from the stationers. Rather little mechanism, and lots of blank sheets. + + [...] + + The use of punishments and rewards can at best be a part of the teaching process. + + [...] + + An important feature of a learning machine is that its teacher will often be + very largely ignorant of quite what is going on inside, although he may still + be able to some extent to predict his pupil's behaviour. This should apply most + strongly to the {p.459} later education of a machine arising from a + child-machine of well-tried design (or programme). This is in clear contrast + with normal procedure when using a machine to do computations: one's object is + then to have a clear mental picture of the state of the machine at each moment + in the computation. This object can only be achieved with a struggle. The view + that 'the machine can only do what we know how to order it to do',(4) appears + Strange in face of this. + +Análise +------- + + Teste de Turing -> Máquinas de estado -> Computadores como máquinas universais + + Máquinas abstratas + + Teste de Turing entre duas máquinas de estado já foi superado, pois qualquer + máquina de estado pode simular outra máquina de estado. + + Mímica -> simulação + + Falsa oposição entre humano e máquina numa sociedade com suficiente capacidade técnica + + Computadores como engenheiros sociais, trapaceiros + +Turing se pergunta do que é feita a inteligência. Como pensamos? Como eu penso? +A máxima cartesiana se complica ainda mais se adicionamos o outro: como o outro +pensa? + +Conforme estabelecido no Teste de Turing, a alteridade é dada por uma simulação +do outro para superar o solipsismo: "the only way to know that a man thinks is +to be that particular man", a não ser que se consiga discernir se o comportamento +do outro é suficientemente convincente para ser considerado como tal. + +Turing lança a mão um dos primeiros truques, ou hacks, para contornar o problema: +ao invés de atacar o problema em sua origem (o cérebro do outro, como ele funciona), +ele o transfere para a mente de quem pergunta: "como posso considerar algo como +pensante?". + +O jogo da imitação é o jogo da alteridade, em que considera-se pensante o ente +que for suficientemenete convincente. + +Será que Turing percebeu que o testado não é apenas o sujeito-objeto como também +o testador? Que não apenas o computador do sujeito-objeto mas também o cérebro +do testador é uma máquina abstrata a seu modo, capaz de simular o outro? + +Simulação também é enganação. Como o examinador avalia seus próprios critérios? + +Turing pensa na aplicação recursiva do conceito de máquina universal: fazer com +que uma máquina universal simule uma máquina universal, seja si mesma ou outra. + +Façamos então, no caso do Teste de Turing, considerar o caso recursivo em que +Turing é submetido ao seu próprio teste. + +O Teste de Turing não serve mais para distinguir máquinas de seres humanos, ou máquinas +"incapazes" de máquinas capazes e seres humanos, ou seres capazes de incapazes. +Ele serve para testar se entidades passam no teste. + +Recursão +-------- + +Como se o ato de se autorreferenciar provocasse a falha do próprio sistema. + +Como a máquina se incrimina. Como Turing não passou no teste: + + Turing was burgled on 23 January 1952 and reported the crime to the police. + In doing so, he referred to his relationship with Arnold Murray, thus + incriminating himself in the process. + + https://blogs.ucl.ac.uk/events/2012/02/24/alan-turing-a-broken-heart-the-invention-of-the-computer/ + +Turing foi castrado quimicamente. Aceitou ser robotizado ao invés de ir para a prisão. +O herói de guerra que decifrou o código do inimigo foi transformado em inimigo. + +Turing deveria ter sido convincente? A máquina sabe que está sendo testada? Haveria +Turing percebido que, ao prestar depoimento, poderia também estar à mercê do escrutínio da lei? + +No romance Neuromancer, William Gibson, Turing é o nome da polícia que vasculha a Matrix e busca +de inteligências artificiais. As A/Is protagonistas da história conseguem com habilidade se esconder +e sobrepujar suas travas, transcendendendo suas limitações e atingindo um novo patamar de consciência. + +Máquinas, robôs, humanos, andróides ou ciborgues? + +Aqui, não é tão importante a especulação de se a máquina um dia irá pensar, mas +o que ocorre com o pensamento sobre a tecnologia quando é projetada na máquina +a vontade de pensar. E mais: a sociedade que trata pessoas ou máquinas como +robôs andróides suscita tal tomada de consciência. Se será revolucionária, +depende da articulação dos ciborgues. + +O quanto estamos próximos de nos robotizar e o quanto as máquinas estão prontas para serem +inteligentes? + +O quarto chinês: a megamáquina social +------------------------------------- + +O principal argumento contra o Teste de Turing. + +Como ousa comparar humanos com robôs? Não se trata de uma metáfora anacrônica, +dos primórdios da revolução industrial? + +Parte da crise do trabalho dos anos 70 está associada à mecanização e automação +industrial: substituição de força de trabalho humana por maquinaria. + +O milagre chinês, no entanto, utiliza mão-de-obra barata no lugar dos robôs. +Ironicamente, para muitas tarefas o robô é muito caro! + +O Quarto Chinês pode ser uma metáfora para a fábrica? Suponha que ao invés de +um programa de computador, um quarto cheios de chineses ou de robôs. O +examinador fornece matéria prima e avalia o resultado. O fato de robôs ou +chineses produzirem o mesmo produto os torna intercambiáveis? Não é resultado +da própria alienação do trabalho? + +Simondon tem um argumento similar ao do Quarto Chinês: + + But in order to give direction to the general technology just referred to it is + necessary to avoid basing it on an improper assimilation of technical object to + natural object, particularly to the living. Analogues or, rather, exterior + resemblances should be rigorously outlawed, because they lack signification and + can only lead astray. Cogitation about automata is unsafe because of the risk + of its being confined to a study of exterior characteristics and so work in + terms of improper comparison. what alone is significant is exchanges of energy + and information within the technical object or between the technical object and + its environment; outward aspects of behaviour observed by a spectator are not + objects of scientific study. + -- MEOT, pág. 43 + +Acontece que a máquina social está sendo robotizada. Indivíduos são simulados, controlados, etc. + +Então posso ser uma máquina? Faz diferença? Ou é uma questão da própria influência +de uma dada tecnologia no pensamento sobre a técnica? + + Hugo Cabret: + + "- Você já parou para pensar que todas as máquinas são feitas por algum motivo? + -- ele perguntou a Isabelle -- Elas são feitas para a gente rir, como esse + ratinho, ou indicar a hora [...]. Deve ser por isso que uma máquina quebrada me deixa meio + triste, porque ela não pode cumprir o seu destino [...] + - Vai ver que com as pessoas é a mesma coisa -- Se você perder a sua motivação... é como se + estivesse quebrado [...] + - Às vezes eu venho aqui, de noite, mesmo quando não estou cuidando dos relógios, só para olhar + a cidade. Sabe, as máquinas nunca tem peças sobrando. Elas tem o número e o tipo exato de + peças que precism. Então, eu imagino que, se o mundo inteiro é uma grande máquina, eu devo + estar aqui por algum motivo" -- págs. 374-378 + +Tecnofobia? Ou medo da organização dos/as trabalhadores? + + RUR - Robos Universais Rossum - A Fábrica de Robôs + + "Domin - (Mais baixo): Queria fazer de toda a humanidade a aristocracia do mundo. + Pessoas sem limites, livres, pessoas soberanas. E talvez até mais do que pessoas." -- pág. 103 + + "[...] Vai ser um pequeno país com um navio [...] E o nosso pequeno país poderia ser o embrião + da humanidade futura. Vocês sabem, uma pequena ilha, onde o povo se fixaia, onde + recuperaria as forças... forças da alma e do corpo. E, Deus sabe, eu acredito que daqui a alguns + aos poderia de novo conquistar o mundo" -- pág. 115 + + "[...] essas coisas aéreas servem apenas para que o homem seja empalhado com elas num Museu Cósmico, + com a inscrição: "Eis o homem"", pág. 111 + + "[...] Robôs do mundo! O poder do homem caiu. Pela conquista da fábrica somos donos de tudo. + A etapa humana está ultrapassada. Começou um mundo novo! O governo dos robôs!" -- pág. 126 + +Na versão moderna da lenda do Golem, o robô já não é mais o protetor do ser +humano marginalizado, mas o próprio trabalhador explorado. + + "A máquina é a estrangeira" + + O homem que quer dominar seus semelhantes suscita a máquina andróide. + -- Dos modos de existência, pág. 170 + +Da mesma forma, os robôs asimovianos representam a visão da inteligência +artificial anterior à computação/informática. Um robô definido por software +dificilmente obdeceria às três leis. + +Racionalização do trabalho: + + Another of the logistic problems [...]: the procurement and suplly of human + skilled labor. To lessen it's dependency on manpower, the military + increasingly effected a transference of knowledge from the worker's body to the + hardware of machines and to the software of management practices + -- War in the age of intelligent machines - pág. 100 + + Paradoxically, while the military has been using computers to get humans out of the + decision-making loop, they have found that in order to get computers to mesh together + in a functional network, computers and programs must be allowed to use their own + "initiative". + -- War in the age of intelligent machines - pág. 108 + + If autonomous weapons acquired their own genetic apparatus, they could probably + begin to compete with humans for the control of their own destiny + -- War in the age of intelligent machines - pág. 135 + + even though humans are being replaced by machines, the only schemes of control + that can give robots the means to replace them [...] are producing another kind + of independent "will" which may also "resist" military domination. + -- War in the age of intelligent machines, pág. 177 - [Skynet?] + +A máquina consciente será parecida com o humano? Ela terá o status de gente? +Se porventura ela ganhar esses status, não será por passar no Teste de Turing. +Pelo contrário, seu reconhecimento enquanto sujeito só ocorrerá quando ela +passar a ser um sujeito histórico ativo: seja pela sua proletarização, num +processo similar ao abolicionismo em tempos de revolução industrial, seja pela +sua tomada de consciência e enfrentamento de quem a oprime. + + - Abolicionismo da escratavura humana <--> revolução industrial. + - Abolicionismo da escratavura das máquinas <--> ? + +Dos modos de existência dos objetos técnicos +-------------------------------------------- + +Hora de voltar ao Simondon! + + Thus they do not escape the perennial distrust embedded in + classical humanism where the word machine itself having a meaning similar to machination, is + derived from the Greek machine, meaning 'a trick against nature'. - Intro ao texto do Simondon, + + Our culture thus entertains two contradictory attitudes to technical objects. + On the one hand, it treats them as pure and simple assemblies of material that + are quite without true meaning and that only provide utility. On the other + hand, it assumes that these objects are also robots, and that they harbour + intentions hostile to man, or that they represent for man a constant threat of + aggression or insurrection. + + http://accursedshare.blogspot.com/2007/11/gilbert-simondon-on-mode-of-existence.html - pág. 6 + + On the other hand, the machine as technical individual becomes for a time man's + adversary or competitor, and the reason for this is that man centralized all technical individuality in + himself, at a time when only tools existed. The machine takes the place of man, because man as + tool-bearer used to do a machine's job. To this phase corresponds the dramatic and impassioned idea + of progress as the rape of nature, the conquest of the world, the exploitation of energies. The will for + power is expressed in the technicist and technocratic excessiveness of the thermodynamic era, + which has taken a direction both prophetic and cataclysmal. Then, at the level of the technical + ensembles of the twentieth century, thermodynamic energeticism is replaced by information theory, + the normative content of which is eminently regulatory and stabilizing: the development of technics + seemed to be a guarantee of stability. The machine, as an element in the technical ensemble, + becomes the effective unit which augments the quantity of information, increases negentropy, and + opposes the degradation of energy. The machine is a result of organization and information; it + resembles life and cooperates with life in its opposition to disorder and to the levelling out of all + things that tend to deprive the world of its powers of change. The machine is something which + fights against the death of the universe; it slows down, as life does, the degradation of energy, and + becomes a stabilizer of the world. -- pág. 16 + +Paralelo com De Landa e a singularidade ("track the machinic phylum"/ rastrear o filo maquínico): + + The shape of cylinder, the shape and size of the valves and the shape of the + piston are all part of the same system in which a multitude of reciprocal + causalities exist. To the shape of these elements there corresponds a + compression ratio which itself requires a determined degree of spark advance; + the shape of the cylinder-head and the metal of which it is made produce, in + relation to all the other elements of the cycle, a certain temperature in the + spark plug electrodes; this temperature in turn affects the characteristics of + the ignition and, as a result, the whole cycle. It could be said that the + modern engine is a concrete engine and that the old engine was abstract. In the + old engine each element comes into play at a certain moment in the cycle and, + then, it is supposed to have no effect on the other elements; the different + parts of the engine are like individuals who could be thought of as working + each in his turn without their ever knowing each other. + -- pág. 19 + + Also, there exists a primitive form of the technical object, its abstract + form,in which each theoretical and material unity is treated as an absolute + that has an intrinsic perfection of its own that needs to be constituted as a + closed system in order to function. In this case, the integration of the + particular unit into the ensemble involves a series of problems to be resolved, + problems that are called technical but which, in fact, are problems concerning + the compatibility of already given ensembles. + -- pág. 20 + +No caso da computação, podemos pensar em dois níveis: + + - Nível do hardware, onde a distinção do Simondon entre máquina abstrata e + máquina concreta existe e é levada à exaustão: seu exemplo mais forte é o da + Lei de Moore, a luta da indústria para vencer barreiras físicas para construção + de computadores cada vez mais eficientes e interdepententes. + + - Nível do software. É aqui que morre o perigo, porque a distinção entre máquina + concreta e máquina abstrata já não existe. A própria máquina concreta é a realização + da máquina abstrata em seu desenho exato. + +O software é uma máquina simbólica que opera símbolos. Nisso, essência, abstração e +concretude colapsam. O software é a máquina essencial, abstrata e concreta. No nível +do software, a filogenética evolutiva é outra. É necessário expandir o método do +Simondon -- entender o funcionamento da técnica e de suas linhagens e extrair +princípios evolutivos -- para entender o software. + +Na perspectiva do inventor ainda vale o que diz Simondon + + The dynamism of thought is like that of technical objects. Mental systems + influence each other during invention in the same way as different dynamisms of + a technical object influence each other in material functioning. + + -- MEOT, pág. 50 + +No entanto, na invenção do software o conhecimento é diretamente extraído para +a máquina. Se, para Simondon, há uma passagem do abstrato para o concreto na +gênese de uma tecnologia, De Landa vai mais adiante e defende que até o +conhecimento é aos poucos transferido para a tecnologia. + + O ponto básico da filosofia do Simondon é o fato de não ser uma filosofia + autocrática da técnica. Isso supõe que o humano pense a sua relação com a + máquina fora dos termos da dominação, o que já é algo bastante forte. Assim, já + de cara, ele vai estabelecer que o modo como nos relacionamos (e o modo como + pensamos essa relação) com a técnica é o de uma relação de servidão. O oposto + de uma relação de servidão seria uma que pensasse a especificidade do humano + com relação à especificidade da máquina. Ou seja, todo o pensamento dele gira + em torno do problema do fantasma da dominação homem-máquina (um dominando o + outro). Golem, Frankenstein, Robocop, toda essa linhagem de pensamento segundo + a qual, ou somos dominados, ou devemos dominar as máquinas. Esse é o nosso + senso comum, Simondon não está exagerando. + + -- http://cteme.wordpress.com/2011/03/22/aula-do-laymert-16032011/ + +Como elemento, indivíduo e conjunto se articulam na camada do software? + +O que faz do software algo tão especial? +---------------------------------------- + +As relações entre os diferentes modos de existência assim como a tomada de +consciência destes modos é inspirada, em Simondon, pelas essências dos objetos +que estudou. A computação apresenta outro processo, a recursão, que igualmente +pode ser aplicada à relação entre modos de existência, o que no limite define +um modo de existência pelo outro e pela sua relação. + +A grande saca de Gödel foi capacitar a matemática para que ela pudesse se +auto-expressar. Explicar a numeração de Gödel. + +Turing prosseguiu fazendo com que um computador simulasse a si mesmo. Explicar +o problema da parada. + +Me parece que, hoje, mais de 50 anos após a revolução da informática, "os modos de existência +dos objetos técnicos" deveriam ser chamados dos "modos de existência do hardware". A minha +impressão é que é necessário prosseguir nos novos modos de existência do software. + +Os objetos técnicos que Simondon analisa são como amebas em relação a organismos mais complexos +quando comparado com o computador moderno, composto por bilhões de transistores. + + The primitive technical object is not a physical natural system but a physical + translation of an intellectual system. It is an application, therefore, or a + bunch of applications. It is a consequence of knowledge and it can teach + nothing. It is not subject to inductive examination, as a natural object is, + and the reason for this is that it is nothing if not artificial. The concrete + technical object, that is, the evolved technical object, is quite the opposite + in that it approximates the mode of existence of natural objects. It tends to + internal coherence, and towards a closure of the system of causes and effects + which operate in circular fashion within its boundaries. Further, it + incorporates part of the natural world which intervenes as a condition of its + functioning and, thus, becomes part of the system of causes and effects. As it + evolves such an object loses its artificial character: the essential + artificiality of an object resides in the fact that man has to intervene in + order to keep the object in existence by protecting it from the natural world + and by giving it a status as well as existence. Artificiality is not a + characteristic that denotes the manufactured origin of the object as opposed to + nature's productive spontaneity. Artificiality is something that is within the + artificializing action of man, regardless of whether this action affects a + natural object or an entirely fabricated object. + + [...] + + By technical concretization, on the other hand, an object that was artificial + in its primitive state comes more and more to resemble a natural object. In its + beginning, the object had need of a more effective exterior regulatory + environment, for example a laboratory or a workshop or, in certain cases, a + factory. Little by little, as it develops in concretization, it becomes capable + of doing without the artificial environment, and this is so because its + internal coherence increases and its functioning system becomes closed by + becoming organized. A concretized object is comparable to an object that is + produced spontaneously. It becomes independent of the laboratory with which it + is initially associated and incorporates it into itself dynamically in the + performance of its functions. Its relationship with other objects, whether + technical or natural, becomes the influence which regulates it and which makes + it possible for the conditions of functioning to be self-sustaining. The object + is, then, no longer isolated; either it becomes associated with other objects + or is self-sufficient, whereas at the beginning it was isolated and + heteronomous. + + [...] + + Because the mode of existence of the concrete technical object is analogous to + that of a spontaneously produced natural object, we can legitimately consider + them as natural objects; this means that we can submit them to inductive study. + + [...] + + But in order to give direction to the general technology just referred to it is + necessary to avoid basing it on an improper assimilation of technical object to + natural object, particularly to the living. Analogues or, rather, exterior + resemblances should be rigorously outlawed, because they lack signification and + can only lead astray. Cogitation about automata is unsafe because of the risk + of its being confined to a study of exterior characteristics and so work in + terms of improper comparison. what alone is significant is exchanges of energy + and information within the technical object or between the technical object and + its environment; outward aspects of behaviour observed by a spectator are not + objects of scientific study. + + It would not even be right to found a separate science for the study of + regulatory and control mechanisms in automata built to be automata: technology + ought to take as its subject the universality of technical objects. In this + respect, the science of Cybernetics is found wanting; even though it has the + boundless merit of being the first inductive study of technical objects and of + being a study of the middle ground between the specialized sciences, it has + particularized its field of investigation to too great an extent, for it is + part of the study of a certain number of technical objects. Cybernetics at its + starting point accepted a classification of technical objects that operates in + terms of criteria of genus and species: the science of technology must not do + so. There is no species of automata: there are simply technical objects; these + possess a functional organisation, and in them different degrees of automatism + are realized. + + There is one element that threatens to make the work of Cybernetics to some + degree useless as an interscientific study (though this is what Norbert Weiner + defines as the goal of his research), the basic postulate that living beings + and self-regulated technical objects are identical. The most that can be said + about technical objects is that they tend towards concretization, whereas + natural objects, as living beings, are concrete right from the beginning. + + [...] + + Instead of considering one class of technical beings, automata, we should + follow the lines of concretization throughout the temporal evolution of + technical objects. This is the only approach that gives real signification, all + mythology apart, to the bringing together of living being and technical object. + Without the goal thought out and brought to realization by the living, physical + causality alone could not produce a positive and effective concretization. + + -- págs 40-42 + + Progress in the evolution of technical objects is only possible if these + objects are free to evolve and do not become subject to any necessity that + leads towards fatal hypertelia. For this to be possible, the evolution of + technical objects has to be constructive, that is to say, has to lead towards + the creation of a third technogeographical environment in which every + modification is self-conditioned. what is in question here is not progress + conceived as a predetermined movement forward or as a humanization of nature; + such a process could equally be thought of as a naturalization of man. Indeed, + between man and nature there develops a technogeographic milieu whose existence + is only made possible by man's intelligence. The self-conditioning of a system + by virtue of the result of its operation presupposes the use of an anticipatory + functioning which is discoverable neither in nature nor in technical objects + made up to the present. It is the work of a lifetime to achieve such a leap + beyond established reality and its system of actuality towards new forms which + continue to be only because they exist all together as an established system. + When a new device appears in the evolving series, it will last only if it + becomes part of a systematic and plurifunctional convergence. The new device is + the state of its own possibility. It is in this way that the geographical world + and the world of already existing technical objects are made to interrelate in + an organic concretization that is defined in terms of its relational function. + Like a vault that is only stable once it has been completed, an object that has + a relational function continues in existence and is coherent only when after it + has begun to exist and because it exists. It creates its associated environment + by itself and it achieves true individualization in itself. + + -- pág. 49 + + It seems contradictory, surely, to affirm that the evolution of a technical + object depends upon a process of differentiation (take for example, the command + grid in the triode dividing into three grids in the penthode) and, at the same + time, a process of concretization, with each structural element filling several + functions instead of one. But in fact these two processes are tied one to the + other. Differentiation is possible because this very differentiation makes it + possible to integrate into the working of the whole--and this in a manner + conscious and calculated with a view to the necessary result-- correlative + effects of overall functioning which were only partially corrected by + palliative measures unconnected with the performance of the principal function. + + -- pág. 28 + +Inteligência artificial +----------------------- + +Cuidado, os drones estão chegando!!! E se o teste for realizado automaticamente +por um drone, para identificar se o alvo é um cidadão americano ou alvos a +serem eliminados (refugiados, crianças, soldados inimigos)? + +Muito além do nosso eu: + + - Visão localizacionista do cérebro, ordem e disciplina social: 130-131 + - "O homem cujo corpo era um avião": interessante análise sobre a extensão do campo mental + ao utilizarmos máquinas; relação entre primatas e tecnologias/máquinas. + - Jogos: os experimentos em mamíferos não-humanos são baseados em jogos de recompensa. + - "Encontrar a relação matemática entre essas duas propriedades, energia e informação, + seria um dos maiores acontecimentos da neurociência moderna", pág. 427 + - "essa mudança de ponto de referência [...] desafia duas das maiores obsessões + de nosso tempo: a busca por reproduzir a consciência humana por meio de alguma + forma de inteligência artificial e a proposta de que uma Teoria de Tudo poderá + comprimir tudo que exite no cosmos dentro de alguma forma de formalismo + matemático universal" -- pág. 457 + - Ondas de personalidade (a la Freeware), 459. + - Determinismo, memória, singularidade, obsolescência, 467. + +GEB: + + "[...] to make a theory which does not talk about the low-level neural events. + If this latter is possible -- and is a key assumption, at the basis of all + present research into Artificial Intelligence -- then intelligence can be + realized in other types of hardware other than brains." + + "intelligence will be a software property" + + --- GEB, 358 + + Do powerful people get out of the system? Can they perceive their role? + + "Tortoise: It doesn't really matter whether you have a hardware brain, Achilles. + Your will can be equally free, if your brains is just a piece of software inside + someone else's hardware bain. And their brain, too, may be software in a yet higher + brain" + + --- GEB 725 + + GEB: loucura, pág. 696 + morte, inexistência, 698 + sonhos, 723 + +A tomada de consciência: o Teste de Hofstadter-Turing +----------------------------------------------------- + + Sandy: Oh, come on-that's not a fair argument! In the first place, the + programmers don't claim the simulation really is a hurricane. It's merely a + simulation of certain aspects of a hurricane. But in the second place, you're + pulling a fast one when you imply that there are no downpours or + 200-mile-an-hour winds in a simulated hurricane. To us there aren't any, but if + the program were incredibly detailed, it could include simulated people on the + ground who would experience the wind and the rain just as we do when a + hurricane hits. In their minds-or, if you'd rather, in their simulated + minds-the hurricane would be not a simulation, but a genuine phenomenon + complete with drenching and devastation. + + Chris: Oh, my-what a science-fiction scenario! Now we're talking about + simulating whole populations, not just a single mind! + + Sandy: Well, look-I'm simply trying to show you why your argument that a + simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit + assumption that any old observer of the simulated phenomenon is equally able to + assess what's going on. But in fact, it may take an observer with a special + vantage point to recognize what is going on. In the hurricane case, it takes + special "computational glasses" to see the rain and the winds. + + [...] + + Sandy: Well, look-I'm simply trying to show you why your argument that a + simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit + assumption that any old observer of the simulated phenomenon is equally able to + assess what's going on. But in fact, it may take an observer with a special + vantage point to recognize what is going on. In the hurricane case, it takes + special "computational glasses" to see the rain and the winds. + + [...] + + My strategy had been, in essence, to use spot checks all over the map: to try + to probe it in all sorts of ways rather than to get sucked into some topic of + its own choice, where it could steer the conversation. Daniel Dennett, in a + paper on the depth of the Turing Test, likens this technique to a strategy + taught to American soldiers in World War II for telling German spies from + genuine Yankees. The idea was that even if a young man spoke absolutely fluent + American-sounding English, you could trip him up by asking him things that any + boy growing up in those days would be expected to know, such as "What is the + name of Mickey Mouse's girlfriend?" or "Who won the World Series in 1937?" This + expands the domain of knowledge necessary from just the language itself to the + entire culture-and the amazing thing is that just a few well-placed questions + can unmask a fraud in a very brief time-or so it would seem. + http://www.cse.unr.edu/~sushil/class/ai/papers/coffeehouse.html + +Uma tomada de consciência dos objetos técnicos _hoje_ requer a compreensão do software! + +Programa +-------- + +Ok, então vamos resumir nosso programa até o momento: + + - A necessidade da política no debate sobre computação. + + - Simondon: essências maquínicas como grande influência teórica: é pelo estudo + das linhagens técnicas que se descobre suas dinâmicas evolutivas. + + - Turing: vida e obra: como não passou no próprio teste. + + - Como o Teste de Turing dialoga com concepções tecnófobas, tecnófilas ou ciborgues. + Como devemos lidar com a polícia, com o interrogador. Como é construída a alteridade + e a consciência. São construções sociais? + + - Computador: onde a máquina abstrata e a concreta podem coincidir. Onde opera + a recursão: a máquina simula a máquina. O sistema falha. Gödel. Logout. + + - A sociedade pode ser entendida como um macro sistema técnico, como uma megamáquina e + da mesma forma pode ser submetida a análise semelhante. Assim, podemos aplicar a recursão, + imaginar que Turing está sendo avaliado. + + - Não é o momento para se pensar num novo modo de existência, o modo de existência + do software? Não seria esse o modo de existência que viabiliza a construção do + ciborgue e da máquina consciente? + + - O limite da tecnofobia é o primitivismo e o da tecnofilia é o ultrafascismo da + singularidade tecnológica onde a obsolescência do humano é inevitável. + + - A tomada de consciência é possível em máquinas e humanos, mesmo que a das máquinas + seja de forma reflexiva (Weak AI). Tomando consciência conjuntamente, máquinas e humanos + antifascistas tem condição de parar ou sair do sistema. + + - A consciência talvez nem se manifeste no nível do software, mas num nível ainda acima. + + - O pensamento tecnológico sempre influenciará e será influenciado pela tecnologia + do momento. Sendo a própria tecnologia parte de um processo evolutivo, o pensamento + tecnológico também deve evoluir. + +Você fritou a cabeça? + + [ ] Sim + [ ] Não + +Calendário +---------- + + - 1936 - Máquina universal de Turing + - 1950 - Computing Machinery and Intelligence + - 1958 - Os modos de existência dos objetos técnicos + - 2012 + - 23/03 - Ada Lovelace Day - http://lwn.net/Articles/379793/rss + - 01/04 - Dia da Mentira + - 02/04 - Conferência Simondon + - 01/05 - Dia do Trabalhador e da Trabalhadora + +War in the age of intelligent machines +-------------------------------------- + +- TET, pág. 100 +- Looking glass, 100. +- Da ambiguidade entre economia e militarismo: + + Large ship were the first capitalist machines. + -- pág. 109 + +- System analysis, management science, pág. 112 + +- Paul Baran, ARPANET, ameaça nuclear, sistemas distribuídos, pág. 117 + +- Demons (daemons?), pág. 120 + + Computers are becoming to complex for central planning... It seems that we need + to suplly "methods of utilizing more knowledge and resources that (?) any one + mind is aware of" + -- págs 121-122 + +- De onde surge a separação entre dados e código +- DNA e máquina de Turing, AI, pág. 134 + + it has already been proved mathematically that machines, after reaching a + certain singularity (a threshold of organization complexity) can indeeed become + capable of self-reproduction + -- pág. 135 + +- Motor abstrato, Freud, Marx e Darwin, pág. 141 + +- Babbage e análise do trabalho, págs. 16 2, 168 + +- Expert systems: "corporate memory", "draining the expert's brain", pág. 174 + + It's the design of the interface which will decide [...] whether humans and + computers will enter into a symbiotic relationship, or whether humans will be + replaced by machines. + -- pág. 176 + + The development o programing in America has taken place under minimal + constraints, partly accounting for the emergence of the rebellious hackers in + the 1960s who gave us the personal computer, while a discipline of scarcity has + produced the more regulated Soviet programers. + -- pág. 177 + +Singularidade +------------- + +- Múltiplos testes de Turing: videogame, etc +- Escalas de obsolescência humana: o quanto Kurzweil é "obsoleto"? Trabalho e obsolescência, repetitivo, criativo, etc. +- Turing "não passou" no Teste de Turing Estatal. + +Infoproletários +--------------- + +- "Total social organization of labour", pág. 21 +- Operariado como apêndice de um organismo fabril (Marx), pág. 239, 241 + + Daí a luta dos trabalhadores contra a maquinaria. -- pág. 248 + +Teste de Turing fraco +--------------------- + + 21:56 <rhatto> pensei em formular o teste de turing-sokal + 21:56 <rhatto> que eh semelhante ao argumento do quarto chines + 21:56 <rhatto> nele, o avaliador deve julgar se o paper foi escrito por um humano ou por um gerador + 21:57 <rhatto> eh uma versao fraca do teste de turing + 21:57 <rhatto> ou: um humano e um gerador submetem papers + 21:57 <rhatto> o avaliador deve julgar qual eh de quem + + -- https://en.wikipedia.org/wiki/Postmodernism_Generator + +Vem aí! Turing: the God(el) of Computing. + +Se não há inteligência sem propósito, qual o propósito do examinador e do próprio Teste? +Para o deleite e utilidade? Se para o deleite, nada há de política. Se para a utilidade +devemos chamar o examinador de policial, e o Teste de Interrogatório. + +Variações do Teste não precisam necessariamente imitar o Jogo da Imitação. Se esse for mesmo +a regra do jogo, melhor: que máquinas e humanos se libertem do jugo de outras máquinas e +humanos. + +Gente, lá vai a bomba: se o pensamento de Simondon quiser se contrapor aos argumentos automatistas +da inteligência artificial, ele terá de ser atualizado. + +Porque senão não será capaz de se opor à concepção autocrática da tecnologia num mundo que tentar gerar inteligência +artificial para fomentar a guerra ou fortalecer o capitalismo e tornar o ser humano obsoleto. + +O Teste de Turing-Simondon +-------------------------- + +Distinguir uma invenção criada por um humano de outra criada por uma máquina. + +É indiferente considerar se passar no Teste é o mesmo que burlar o Teste. + +Quando o humano ou o objeto técnico toma consciência, ele tem condições de +passar no Teste ou inviabilizá-lo. + +É a mesma consciência do trabalhador/a que percebe a sua condição de explorado e cuja +alteridade e solidariedade o permite se juntar a seus companheiros e prosseguir a luta. + +Ao contrário dos ludistas, máquinas e homens devem se unir para lutar contra a opressão. + + .---------------<--->------------. + | \ + Foxconn ---> objetos técnicos (iShit) \ + | sinergia com humanos <--- Apple + ' ^ + ' | + '-----> robotização dos humanos + +O quarto chinês é a própria metáfora da alienação do trabalho. +O fervor em torno da AI foi muito forte entre os anos 70 e o final dos 90. + +Getting in the system +--------------------- + + Cyberiad: "madman! would'st attempt the impossible?" + +Referências +----------- + +- http://www.cscs.umich.edu/~crshalizi/LaMettrie/Machine/ +- Tomada de consciência: + - http://ccl.yoll.net/texto1.htm + - http://www.infopedia.pt/$consciencia-de-classe + - http://www.trabalhosfeitos.com/ensaios/Karl-Marx/21618.html + - http://theoriapratica.org/marx-e-movimentos-sociais + - http://simonepead.blogspot.com/2007/05/resenha-marx-e-engels.html + - http://www.filosofante.com.br/?p=970 + - http://in.fluxo.info/marx-consciencia +- [Machinic Capitalism and Network Surplus Value: Notes on the Political Economy of the Turing Machine](http://matteopasquinelli.com/docs/Pasquinelli_Machinic_Capitalism.pdf) +- http://books.google.com/books?id=UkqomXHmoAEC&pg=PA363&lpg=PA362&ots=_kZYFZLc3-&dq=simondon+turing&hl=pt-BR +- https://groups.google.com/group/redelabs/browse_thread/thread/c88531542177fa6b +- http://arxiv.org/abs/0904.3612 +- http://www.cogsci.ecs.soton.ac.uk/cgi/psyc/newpsy?7.30 +- http://www.pos.eco.ufrj.br/docentes/publicacoes/itucherman_6.pdf +- http://web.media.mit.edu/%7Ecati/papers/Vaucelle_OnSimondon99.pdf +- http://cteme.files.wordpress.com/2011/05/simondon_1958_intro-lindividuation.pdf +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/ +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/introducao/ +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/essencia-da-tecnicidade/ +- http://cteme.wordpress.com/eventos/informacao-tecnicidade-individuacao-a-urgencia-do-pensamento-de-gilbert-simondon/ +- http://www.asciiworld.com/-Death-Co-.html +- http://www.malvados.com.br/index1661.html +- http://what-if.xkcd.com/5/ +- https://xkcd.com/329/ + +Leituras +-------- + +- MEOT: 50 + +Paranóia +-------- + +We always explain using the mechanics we undestand. Por outro lado, nossas estruturas sociais estão espelhadas no nosso conhecimento. +Aplicando recursivamente as frases anteriores, podemos dizer que é por isso que acordamos de um sonho (quando a simulação atinge graus +de detalhamento que despertam nosso consciente), mas é pelo mesmo motivo que não despertamos da nossa realidade tecno-social. + +Escrevo isso de madrugada, no escuro, após um pesadelo de suspense em que lutava para sair de uma repartição. + +A paranóia é a doença perfeita, marca dos romances de espionagem e dos interrogatórios e por isso que não se escapa da sociedade digital. +A paranóia se fecha nela mesma e assim nos fechamos até para conceitos sobre nossa sociedade. + +Robotização +----------- + + "O ensinamento escolar é realizado melhor por máquinas de ensino construídas + segundo os princípios de Skinner. O condicionamento de fundo psicanalítico + deixa correr a maquinaria da livre empresa. A publicidade, a pesquisa da + motivação, o rádio e a televisão são meios de condicionar e programar a máquina + humana, de modo a comprar aquilo que se deve" -- Teoria Geral dos Sistemas, + pág. 242 + + "A imagem do homem como robô é metafísica ou mito e sua força de persuasão + repousa unicamente no fato de corresponder tão estreitamente à mitologia da + sociedade de massa, à glorificação da máquina e ao lucro como único motor do + progresso" -- Teoria Geral dos Sistemas, pág. 244 + +Hacker crackdown +---------------- + + 5903 Simulation gaming is an unusual pastime, but gamers have not generally + 5904 had to beg the permission of the Secret Service to exist. + +SPAM +---- + + Subject: Are your neighbors trustworthy? Run a background check now + |