Quên về quyền riêng tư của người Hồi giáo: Julia Angwin và Trevor Paglen về cuộc khủng hoảng dữ liệu của chúng tôi
Một nghệ sĩ và nhà báo kêu gọi chúng ta hãy quên đi sự riêng tư của Cameron khi chúng ta biết điều đó.
Quên về quyền riêng tư của người Hồi giáo: Julia Angwin và Trevor Paglen về cuộc khủng hoảng dữ liệu của chúng tôi
[Ảnh: Matthew Henry / Bapt]
TÁC GIẢ REYHAN HARMANCIĐỌC LÂU
Tác phẩm này ban đầu xuất hiện trong The End of Trust: McSweeney's 54 , một bộ sưu tập gồm hơn 30 nhà văn điều tra giám sát, công nghệ và quyền riêng tư, với các cố vấn đặc biệt của Electronic Frontier Foundation. Để biết thêm về những vấn đề này, hãy xem loạt bài Phân chia quyền riêng tư của chúng tôi .
Trong sự tấn công hàng ngày của các tiêu đề mất trí nhớ, hai từ thường được tìm thấy tạo thành tiếng trống, kết nối các sự kiện tin tức dường như khác nhau: bảo mật và quyền riêng tư. Phương tiện truyền thông xã hội là một câu chuyện về việc chúng ta hy sinh quyền riêng tư, vô tình và hữu ý. Sự hy sinh này thường được đóng khung như một lựa chọn cá nhân hơn là hành động tập thể. Vi phạm của các ngân hàng, máy bỏ phiếu, bệnh viện, thành phố và các công ty dữ liệu như Equachus đã phơi bày sự dối trá của bảo mật, cụ thể là thông tin của chúng tôi luôn an toàn trước những kẻ xâm nhập. Nhưng nghệ sĩ Trevor Paglen và nhà báo Julia Angwin, hai trong số những người có đầu óc nhạy bén nhất thế giới về những chủ đề đó, thà không sử dụng những từ đó.
Paglen có trụ sở tại Berlin, người có bằng tiến sĩ về địa lý từ Berkeley, đã xây dựng sự nghiệp nghệ thuật của mình bằng cách giúp tạo ra bức ảnh không thể nhìn thấy rõ ràng để thu hút sự chú ý của chúng tôi đến các dây cáp chạy dưới Đại Tây Dương, tạo thành cơ sở hạ tầng internet, ví dụ, hoặc tranh thủ theo dõi nghiệp dư để giúp tìm các vệ tinh được phân loại của Mỹ và các mảnh vụn không gian không xác định khác.
Angwin, một nhà báo và tác giả từng đoạt giải thưởng, đã tiết lộ, chẳng hạn, sự phân biệt chủng tộc và sự cố chấp làm nền tảng cho các thuật toán của Facebook cho phép công ty bán nhân khẩu học như là người Do Thái ghét ghét các nhà quảng cáo sẵn sàng. Năm ngoái, cô rời khỏi ProPublica để xây dựng một phòng tin tức tại các Markup để tiếp tục công việc của tổ chức công ty công nghệ chịu trách nhiệm về tác động của chúng đối với xã hội của mình. [Trong một diễn biến bất ngờ trong tuần này, Angwin tuyên bố cô đã bị loại khỏi vai trò tổng biên tập vì những bất đồng với giám đốc điều hành của ấn phẩm, khiến nhiều nhân viên biên tập của Markup phải từ chức để phản đối .]
Năm ngoái, tôi đã nói chuyện với Trevor và Julia ở thành phố New York về mối quan tâm của họ, công việc của họ và nhiều hơn nữa.
Reyhan Harmanci: Vì vậy, các bạn biết nhau.
Julia Angwin và Trevor Paglen: Vâng.
Rh : khi nào con đường của bạn đi qua?
JA : Chúng tôi đã gặp nhau trước Snowden, yeah, bởi vì tôi đang viết cuốn sách về giám sát và bạn đang làm nghệ thuật tuyệt vời của mình.
TP : Và bạn đã liên lạc với tôi và tôi giống như, Bạn là một người điên khùng, và không viết lại.
JA : Tôi đã viết thư cho anh ấy, và tôi giống như, Tôi muốn sử dụng một trong những tác phẩm nghệ thuật của bạn trên trang web của tôi, và nó có giá bao nhiêu? và anh ấy giống như, What Whats, bạn thậm chí còn không đủ ngầu.
TP : Đó là một trong những khoảnh khắc xấu hổ nhất trong cuộc đời tôi. Bạn biết đấy, tôi nhận được một triệu email đó mỗi ngày.
JA : Tôi cũng vậy! Tôi phớt lờ tất cả bọn họ, và rồi một ngày người đó sẽ ngồi ngay cạnh tôi, và tôi sẽ như thế, He Heh, xin lỗi.
Vấn đề với email là mọi người trên thế giới đều có thể tiếp cận bạn. Hơi quá, phải không? Đó không phải là một tình huống bền vững. Nhưng vâng, đôi khi chúng ta đã gặp nhau trong thời kỳ tiền Snowden, mà bây giờ có vẻ như là một loại màu nâu đỏ. . .
TP : . . . toa xe và tiên phong. . .
JA: Chính xác. Và điều thú vị về thế giới này là chúng ta đã đi trên cùng một con đường. Đó là một hành trình thú vị, giống như một phong trào, phải không? Nó bắt đầu về quyền cá nhân và giám sát và chính phủ, và rất hay chuyển sang công bằng xã hội, và tôi nghĩ đó là quỹ đạo đúng đắn. Bởi vì vấn đề với từ trước đây được gọi là quyền riêng tư là nó không phải là một tác hại cá nhân, nó là một tác hại tập thể.
TP : Đúng vậy.
JA : Và việc đóng khung nó xung quanh các cá nhân và quyền cá nhân đã thực sự dẫn đến, tôi nghĩ, một sự tầm thường hóa của các vấn đề. Vì vậy, tôi thực sự hài lòng với cách mà phong trào đã phát triển để bao gồm nhiều vấn đề công bằng xã hội hơn.
Rh : Tôi muốn tìm hiểu lý do tại sao các bạn thích từ tin tưởng hơn là giám sát hoặc quyền riêng tư , hai từ mà tôi nghĩ có liên quan đến cả hai bạn theo những cách khác nhau. Bạn có ký ức nào về lần đầu tiên bạn hiểu rằng có một bộ máy có thể theo dõi bạn không?
Julia Angwin
JA : Đó là một câu hỏi thú vị. Tôi là đứa trẻ nghĩ rằng bố mẹ tôi biết tất cả mọi thứ tôi đang làm khi tôi ở với họ, vì vậy tôi sợ phá vỡ các quy tắc. Tôi đã rất vâng lời. Bố mẹ tôi nghĩ truyền hình là xấu, nên ở nhà bạn bè tôi sẽ như thế, tôi không thể xem tivi. Và họ sẽ như thế, nhưng đây là một cơ hội của bạn!
Và tôi đã dành cả đời để hồi phục từ mức độ vâng lời đó bằng cách cố gắng không vâng lời nhất có thể. Tôi đã cảm thấy như cha mẹ tôi là một thực thể nhìn thấy tất cả, bạn biết, và tôi đã rất sợ nó. Và tôi nghĩ rằng có lẽ đã hình thành một số hoang tưởng liên tục của tôi, có lẽ.
Rh : phải, vâng Tôi là một đứa trẻ thực sự tốt, quá .
JA : Vâng, nó không tốt, điều tốt đó.
TP : Tôi nghĩ rằng tôi có ý thức lớn lên trong các cấu trúc không phù hợp với tôi và cảm giác như có một sự bất công sâu sắc xung quanh đó. Cảm giác như thế giới được thiết lập để đưa bạn xuống những con đường nhất định và thực thi những hành vi và chuẩn mực nhất định không phù hợp với tôi, và nhận ra rằng giá trị của từ này trước đây được gọi là quyền riêng tư , còn được gọi là tự do , không chỉ chơi ở quy mô của cá nhân, nhưng cũng là một loại tài nguyên công cho phép khả năng, một mặt, thử nghiệm, nhưng sau đó, mặt khác, những thứ như tự do dân sự và tự đại diện.
Bạn nhận ra rằng để cố gắng biến thế giới thành một nơi công bằng hơn, và một nơi có công lý hơn, bạn phải có các thành phần của xã hội nơi các quy tắc có thể linh hoạt, có thể được tranh cãi và thách thức. Đó là lý do tại sao tôi nghĩ rằng cả hai chúng tôi không quan tâm đến quyền riêng tư như một khái niệm nhiều như sự ẩn danh như một tài nguyên công cộng. Và tôi nghĩ rằng có một khía cạnh chính trị trong vấn đề tạo ra một không gian để mọi người thực hiện các quyền hoặc quyền yêu cầu mà trước đây không tồn tại. Ví dụ kinh điển là quyền dân sự: Có rất nhiều người đã vi phạm pháp luật. Tương tự với nữ quyền, giống với ACT UP, giống với toàn bộ lịch sử của các phong trào công bằng xã hội.
Và sau đó khi chúng ta thấy sự tăng cường của các hệ thống cảm biến, cho dù đó là NSA hay Google, chúng ta đang thấy những hình thức quyền lực nhà nước và sức mạnh vốn lấn chiếm vào những khoảnh khắc trong cuộc sống hàng ngày của chúng ta mà trước đây chúng không thể đạt tới. Điều gì chuyển thành nếu bạn là một công ty đang cố rút tiền ra khỏi những khoảnh khắc mà trước đây bạn không có quyền truy cập, cho dù đó là lịch sử tìm kiếm Google của tôi hoặc dữ liệu vị trí trên điện thoại của tôi cho bạn biết nếu tôi đi tập thể dục hay không. Có một loạt các quyền và tự do thực tế phát sinh từ thực tế rằng không phải mọi hành động đơn lẻ trong cuộc sống hàng ngày của bạn đều có hậu quả kinh tế hoặc chính trị.
Đó là một trong những điều mà tôi nghĩ đang thay đổi, và một trong những điều đang bị đe dọa ở đây. Khi bạn có các tập đoàn hoặc cấu trúc chính trị có khả năng thực thi quyền lực ở những nơi mà cuộc sống của chúng ta mà trước đây họ không có quyền truy cập, đơn giản là vì chúng không hiệu quả, nó sẽ tạo ra một xã hội sẽ phù hợp hơn và xa hơn cứng nhắc, và thực sự hơn nhiều săn mồi.
JA : Tôi đồng ý.
CÓ GÌ SAI VỚI QUYỀN RIÊNG TƯ CỦA CAMERON
Rh : điều gì làm cho các bạn không thích từ riêng tư ?
JA : Chà, khi tôi nghĩ về sự riêng tư, tôi nghĩ muốn ở một mình. Ý tôi là, tôi nghĩ đó là ý nghĩa ban đầu của nó. Nhưng sự thật là các vấn đề chúng ta đang thảo luận không thực sự muốn cô độc. Họ thực sự muốn có thể tham gia vào sự kết nối tuyệt vời mà internet đã mang đến cho thế giới, nhưng không từ bỏ mọi thứ. Vì vậy, quyền riêng tư, vâng, tôi muốn bảo vệ dữ liệu của mình và thực sự là quyền tự chủ của tôi, nhưng điều đó không có nghĩa là tôi không muốn tương tác với mọi người. Tôi nghĩ sự riêng tư chỉ mang ý nghĩa của, À, bạn cũng vậy, giống như, phản xã hội, và thực tế thì ngược lại.
Trevor Paglen
TP : Vâng, hoàn toàn. Tôi nghĩ rằng nó đúng khi nói lên lợi ích tập thể thông qua việc tạo ra các không gian trong xã hội không chịu sự điều chỉnh của tư bản hay quyền lực chính trị, bạn biết không? Tương tự như tự do ngôn luận, không phải tất cả chúng ta đều có một số điều lớn mà chúng ta muốn thực hiện với quyền tự do ngôn luận của mình, nhưng chúng ta nhận ra rằng đó là một lợi ích tập thể.
JA : Vâng, chính xác. Và vì vậy tôi nghĩ sự riêng tư cảm thấy rất riêng biệt, và tác hại mà chúng ta đang nói đến thực sự là một tác hại xã hội. Nó không phải là nó không phải là một proxy tốt; Tôi sử dụng từ đó mọi lúc vì nó là một tốc ký và mọi người biết tôi đang nói về điều gì, đặc biệt là khi tôi đã viết một cuốn sách với tiêu đề đó. Nhưng tôi cảm thấy như nó không hoàn toàn đúng.
TP : Mặt khác của sự riêng tư là giám sát từ , đó chắc chắn là một từ bắt đầu trở nên phổ biến vào những năm 90 khi các camera giám sát được lắp đặt xung quanh các thành phố, và mọi người giống như, Oh Oh, bạn đang bị một kẻ nào đó theo dõi phía trước của một loạt các màn hình. Nhưng những màn hình đó đã biến mất, và anh chàng đó đã biến mất và hiện đang thất nghiệp vì tất cả những thứ đó đã được tự động hóa. Một khía cạnh khác của giám sát, tôi nghĩ, là nó đã được lịch sử gắn liền với các hình thức quyền lực nhà nước, và điều đó chắc chắn vẫn đúng. Nhưng cùng với đó là chủ nghĩa tư bản giám sát bây giờ , đó là cách bạn kiếm tiền từ khả năng thu thập các loại thông tin rất mật thiết.
JA : Vâng, tôi nghĩ giám sát là một từ tốt hơn một chút cho những gì chúng ta đang nói, nhưng vì ý nghĩa rất nhiều người chỉ coi đó là giám sát của chính phủ. Điều đó không bao gồm tất cả mọi thứ, và những gì nó cũng không bao gồm là tác dụng của nó. Giám sát chỉ là hành động theo dõi, nhưng nó đã làm gì cho xã hội, phải không? Nó làm gì cho bạn? Nó làm gì khi không có túi nơi bạn có thể có quan điểm bất đồng chính kiến, hoặc thử nghiệm tự trình bày theo những cách khác nhau? Điều đó giống như thế nào? Đó thực sự chỉ là một hình thức kiểm soát xã hội, và, như bạn đã nói, hướng tới sự phù hợp. Và đó là, tôi nghĩ, tại sao bản thân giám sát không phải là một từ đủ mạnh để mô tả nó.
TP : Bởi vì giám sát cũng bao hàm một loại thụ động từ phía người thực hiện giám sát, và điều đó không còn đúng nữa; đây là những hệ thống hoạt động
Ảnh chụp từ trên không của Văn phòng Trinh sát Quốc gia của Trevor Paglen. [Được ủy quyền bởi Báo cáo thời gian sáng tạo, 2013.]
Rh : hệ thống hoạt động nghĩa là gì?
TP : Ví dụ siêu đơn giản: Bạn đang lái xe trong ô tô của mình và bạn rẽ phải đèn đỏ bất hợp pháp và camera phát hiện ra rằng, ghi lại biển số xe của bạn và phát vé giao thông và không có người trong vòng lặp. Bạn có thể trừu tượng rằng việc bị từ chối việc làm dựa trên một số loại hệ thống thuật toán đang thực hiện lọc từ khóa trên sơ yếu lý lịch. Rất nhiều công việc bạn đang làm, Julia, là về việc này.
JA : Vâng, ý tôi là, sự giám sát chỉ là khởi đầu của vấn đề. Đó là về, một khi dữ liệu được thu thập, họ sẽ làm gì với nó? Càng ngày, họ càng đưa ra quyết định tự động về chúng tôi.
Và thật kỳ lạ, dường như những quyết định mà họ tự động hóa trước tiên là những quyết định mang tính quyết định cao nhất của con người. Hệ thống tư pháp hình sự đang sử dụng các hệ thống này để dự đoán khả năng bạn sẽ phạm tội trong tương lai. Hoặc có những hệ thống đang tìm hiểu xem bạn sẽ được thuê chỉ bằng cách quét sơ yếu lý lịch. Tôi nghĩ điều đó thật buồn cười bởi vì các hệ thống tự động mà hầu hết mọi người sử dụng có lẽ là bản đồ và những thứ đó thật tệ. Giống như một nửa thời gian họ đang bảo bạn đến sai địa điểm, nhưng chúng tôi vẫn như thế, tôi biết! Công cụ này là rất tuyệt vời; Chúng ta hãy sử dụng nó cho các quyết định thực sự cao về việc có nên tống người vào tù hay không!
TP : Hoặc giết chúng!
Rh : Tôi nghĩ rất nhiều lần mọi người nói rằng, ồ, tôi không làm gì sai cả. Lấy thông tin của tôi, bán cho tôi công cụ. Tôi không chế tạo bom trong tầng hầm của mình. Nhưng đó dường như chỉ là phần nổi của tảng băng chìm.
JA : Vâng, đó là một vị trí rất đặc quyền. Về cơ bản, những người nói điều đó với tôi là người da trắng. Số lượng những thứ bất hợp pháp trên thế giới này thực sự rất cao. Chúng tôi có rất nhiều luật lệ, và có một số bộ phận trong cộng đồng của chúng tôi, chủ yếu là người da nâu, những người phải chịu sự thi hành mạnh mẽ hơn nhiều đối với họ. Và vì vậy tôi nghĩ rằng cảm giác, tôi không làm gì sai cả thực sự là một canard. Bởi vì, tất nhiên, ngay cả khi bạn bị bắt làm việc đó, bạn sẽ thoát ra vì đó là cách xã hội tươi đẹp của chúng ta được thiết lập. Nhưng trên thực tế, mọi người đang theo dõi các nguồn cấp dữ liệu Twitter của Black Lives Matter, và tất cả những người của Ferguson, và cố gắng tìm bất cứ điều gì để đưa chúng vào. Và đó là những gì xảy ra với giám sát, bạn có thể nhờ ai đó làm bất cứ điều gì.
Khi tôi đang làm việc trên cuốn sách của mình, tôi đã đến thăm kho lưu trữ Stasi ở Berlin, nơi họ có các tài liệu mà Stasi lưu giữ cho công dân, và tôi đã yêu cầu hồ sơ công khai. Tôi đã nhận được một vài tệp thực sự được dịch và chúng trên trang web của tôi. Điều làm tôi ngạc nhiên là Stasi có quá ít, nhưng họ chỉ cần một số thứ nhỏ. Giống như một học sinh cấp ba này, anh ta đã bỏ qua lớp học một vài lần hoặc một cái gì đó, vì vậy họ đã đến nhà anh ta và giống như, Bạn nên trở thành một người cung cấp thông tin, nếu không chúng tôi sẽ trừng phạt bạn. Đó là tất cả về việc biến mọi người thành người cung cấp thông tin dựa trên một mảnh nhỏ của thứ gì đó họ có.
Và tôi nghĩ đó thực sự là sự giám sát: đó là về hiệu ứng làm lạnh, tự kiểm duyệt, nơi bạn không sẵn sàng thử bất cứ điều gì mạo hiểm. Có thể có những hậu quả rất mạnh mẽ, đặc biệt nếu bạn là thành viên của một nhóm mà họ muốn đàn áp.
Liên quan: Quyền riêng tư không phải là một sự trừu tượng
TP : Tôi không đồng ý theo nghĩa mà tôi nghĩ. . . Được rồi, Reyhan, bạn đang mang thai. Giả sử tôi có tất cả dữ liệu định vị địa lý của bạn và tôi biết rằng bạn đã ghé thăm một cửa hàng rượu vào một ngày nào đó. Tôi có bán thông tin đó cho nhà cung cấp bảo hiểm y tế của bạn không? Điều đó sẽ có hậu quả cho khả năng tiếp cận chăm sóc sức khỏe của bạn, hoặc có nghĩa là bạn có thể phải trả phí bảo hiểm cao hơn. Tôi nghĩ rằng nó không chỉ là một loại khung pháp lý; đó là một khuôn khổ về Quảng cáo Những nơi mà tôi có thể tận dụng thông tin để lấy tiền từ bạn, cũng như xác định xem bạn có trở thành một phần của hệ thống tư pháp hình sự hay không?
KHÔNG CHỈ TRUNG QUỐC
Rh : Đôi khi tôi gặp khó khăn khi tưởng tượng rằng tất cả những điều này đang xảy ra.
JA : Có vẻ như không thật. Trên thực tế, điều tôi thấy rất sốc là tôi cảm thấy như mình đã cố gắng vẽ ra cái nhìn bi quan nhất có thể trong năm 2014, và nó còn tệ hơn nhiều; nó tệ hơn nhiều so với tôi tưởng tượng Vì vậy, chúng ta hãy nhìn vào một điều đơn giản ở đất nước này, và sau đó là một điều ở Trung Quốc.
Ở đất nước này, những điểm số rủi ro mà tôi đã nói đến đang được sử dụng khi bạn bị bắt. Họ cho bạn điểm từ 1 đến 10, về khả năng bạn sẽ phạm tội trong tương lai và điều đó có thể xác định điều kiện bảo lãnh của bạn. Có phong trào lớn này trên toàn quốc, thay vì đưa người vào tù, những người có nguy cơ cao hơn, chỉ cần đeo chúng vào vòng đeo mắt cá chân điện tử. Vì vậy, về cơ bản, một quyết định tự động buộc ai đó phải có một màn hình GPS trên chúng mọi lúc. Đó là điều tôi thực sự không nghĩ sẽ xảy ra nhanh như vậy. Ba năm trước tôi đã có thể nói, N N Nah, đó là một bác sĩ da liễu nhỏ.
Bây giờ hãy nghĩ về Trung Quốc: Có một khu vực rất Hồi giáo, và chính phủ Trung Quốc đang cố gắng đàn áp vì họ nghĩ rằng tất cả họ đều là những kẻ khủng bố. Tôi chỉ cùng với người phụ nữ này từ Tổ chức Theo dõi Nhân quyền làm việc ở khu vực đó và tổng hợp tất cả thông tin về thiết bị giám sát nào họ đã mua trong khu vực đó và họ đang làm gì. Và họ đã xây dựng một chương trình tự động, về cơ bản là nếu bạn đến trạm xăng quá nhiều lần, hoặc bạn mua phân bón, hoặc bạn làm bất cứ điều gì đáng ngờ. Một cái gì đó bật lên nói rằng bạn có nguy cơ cao và họ đưa bạn đến trại cải tạo. Đó là một hệ thống tự động để xác định ai được gửi vào trại cải tạo . Và tôi giống như, Trời ơi, tôi không thể tin điều này xảy ra ngay bây giờ ; chúng ta thậm chí không nói về tương lai!
TP : Hệ thống điểm tín dụng công dân Trung Quốc nàyđã được trong tin tức một chút. Về cơ bản, các chương trình thí điểm, đang hoạt động trước khi triển khai quốc gia năm 2020, có thể giám sát mọi thứ bạn làm trên phương tiện truyền thông xã hội, cho dù bạn đi bộ hoặc trả hóa đơn muộn hay nói chuyện nghiêm túc về chính phủ, thu thập tất cả các điểm dữ liệu này và giao cho bạn một điểm công dân. Nếu bạn có một cái cao, bạn sẽ nhận được, như, giảm giá vé xem phim, và việc xin visa du lịch sẽ dễ dàng hơn, và nếu bạn có một cái thấp hơn, bạn sẽ có một khoảng thời gian thực sự tồi tệ. Nó đang tạo ra các cơ chế thực thi cực đoan, và tôi nghĩ rằng rất nhiều người trong chúng ta ở Mỹ nói rằng, ồ, đó là điều chỉ có thể xảy ra ở Trung Quốc vì họ có mối quan hệ khác nhau giữa nhà nước và nền kinh tế và một quan niệm khác về nhà nước quyền lực." Nhưng những điều chính xác tương tự đang xảy ra ở đây,
Rh : công dân Trung Quốc có biết về điều này không?
JA : Vâng.
Rh : Vì vậy, những điểm số này không phải là bí mật hoặc ngầm. . .
JA : Không, chúng có nghĩa là một hệ thống khuyến khích, phải không? Nó thực sự chỉ là một công cụ để kiểm soát xã hội; nó là một công cụ cho sự phù hợp, và có lẽ khá hiệu quả, phải không? Ý tôi là, bạn nhận được phần thưởng thực tế; nó rất Pavlovian. Bạn nhận được những điều tốt hoặc bạn không. Chỉ là các chính phủ chưa có công cụ chi tiết như vậy trước đây. Đã có những cách mà chính phủ có thể cố gắng kiểm soát công dân, nhưng thật khó để kiểm soát dân số! Những công cụ giám sát này thực sự là một phần của bộ máy kiểm soát xã hội.
Rh : dữ liệu tốt như thế nào
JA : Đó là điều: nó không thành vấn đề. Trước hết, tất cả các dữ liệu đều tệ, nhưng nó không thành vấn đề. Tôi đã hỏi nhà phân tích này từ Tổ chức Theo dõi Nhân quyền tại sao họ không đưa bất kỳ người ngẫu nhiên nào vào trại tạm giam, bởi vì nó thực sự có ý nghĩa như một sự răn đe khiến mọi người khác phải sợ hãi. Bạn không thực sự cần bất kỳ khoa học. Nhưng những gì họ nhận ra là họ thực sự đang cố gắng đạt được hành vi tốt, do đó, mặc dù phải trả tiền để xây dựng thuật toán này, điều mà không ai kiểm tra tính chính xác, nó tạo ra những khuyến khích tốt hơn. Mọi người sẽ hành động một cách nhất định.
Vì vậy, dữ liệu có thể là rác, nhưng mọi người sẽ nghĩ, thưa Oh, nếu tôi cố gắng làm những điều tốt, tôi sẽ giành chiến thắng. Tôi có thể chơi trò chơi hệ thống. Đó là tất cả về hấp dẫn ảo tưởng của bạn rằng bạn có một số kiểm soát. Điều này thực sự giống với cài đặt quyền riêng tư của Facebook. Nó được xây dựng để cung cấp cho bạn ảo giác về quyền kiểm soát. Bạn thích thú với những chiếc đồng hồ nhỏ bé của mình, và bạn thích, tôi rất bị khóa! Nhưng bạn không phải! Họ sẽ đề nghị nhà trị liệu của bạn là bạn của bạn và họ sẽ đưa bạn đến gặp bố mẹ bạn như một người đồng tính. Bạn không thể kiểm soát nó!
Rh : Tôi nghĩ rằng tôi có thói quen cá nhân xấu, bởi vì tôi gặp khó khăn khi tin rằng điện thoại của tôi thực sự cung cấp thông tin cho Google hoặc Facebook hoặc bất cứ nơi nào tôi đang ở. Tôi gặp khó khăn khi tin rằng ở một mức độ nào đó.
TP : Nó nói với bạn!
Rh : Nhưng điều đó tôi đủ quan trọng, ngay cả với tư cách là người tiêu dùng, đối với họ.
JA : Vâng, bạn không thực sự quan trọng với họ; Ý tôi là, họ cần tất cả mọi người. Đó là nhiều hơn về sự phàm ăn. Họ cần phải là một nơi mà các nhà quảng cáo đi đến, cần có thể nói rằng, chúng tôi biết mọi thứ về mọi người . Vì vậy, đó là sự thật, họ không ngồi ngó lơ trên tập tin Reyhan trừ khi bạn có ai đó ghét bạn ở đó, người có thể muốn xem qua tập tin đó. Nhưng đó là nhiều hơn về kiểm soát thị trường. Nó tương tự như sự kiểm soát của nhà nước theo nghĩa là, để giành chiến thắng, bạn cần phải là một nhà độc quyền. Đó thực sự là loại quy tắc kinh doanh. Và vì vậy, Google, Google và Facebook, họ đang trong một cuộc đua đến chết để biết mọi thứ về mọi người.
Đó là những gì họ cạnh tranh và đó là số liệu của họ. Bởi vì họ đến cùng một nhà quảng cáo và họ nói, không, mua với chúng tôi. Và các nhà quảng cáo cũng giống như, Vâng, bạn có thể đưa tôi đến bà bầu trên đường đến cửa hàng rượu không? Bởi vì đó là những gì tôi muốn. Và bất cứ ai có thể cung cấp điều đó, họ sẽ tham gia. Họ đang trong một cuộc đua để thu thập dữ liệu, giống như cách các công ty dầu khí chạy đua để có được các mỏ dầu khác nhau.
Liên quan: Quyền riêng tư không bị chết. Nó chỉ không được phân phối đều
TP : Một điều tôi muốn nhấn mạnh một lần nữa là chúng ta thường nghĩ về những điều này về cơ bản là các nền tảng quảng cáo. Đó không phải là quỹ đạo dài hạn của họ. Tôi nghĩ về họ như, trích xuất các nền tảng kiếm tiền từ cuộc sống của bạn.
JA : Cách hiện tại mà họ trích tiền là quảng cáo, nhưng họ sẽ biến thành tập tin đã biến thành trung gian, người giữ cửa. Đó là kinh doanh lớn nhất của tất cả. Bạn không thể nhận được bất cứ điều gì trừ khi bạn đi qua chúng tôi.
TP : Vâng, và bảo hiểm y tế, tín dụng. . .
JA : Đó là lý do tại sao họ muốn phá vỡ tất cả những điều đó, đó là ý nghĩa của nó.
GOOGLE CŨNG SẼ TRỞ THÀNH CÔNG TY BẢO HIỂM CỦA BẠN
Rh : vậy làm thế nào mà đi chơi Có giống như khi bạn đăng ký một dịch vụ và bạn có thể nhập email của bạn hoặc nhấn nút Facebook? Có phải đó là cách nó xảy ra?
JA : Chà, đó là cách nó đang diễn ra ngay bây giờ. Nhưng bạn có biết Amazon đã công bố chăm sóc sức khỏe, phải không? Chúng ta sẽ thấy nhiều hơn về điều đó. Chồng tôi và tôi đã nói chuyện gần đây về xe tự lái. Google cũng sẽ trở thành công ty bảo hiểm của bạn. Vì vậy, họ sẽ cần nhiều dữ liệu hơn về bạn, bởi vì họ sẽ phá vỡ bảo hiểm và chỉ cung cấp cho chính họ. Họ biết nhiều về bạn hơn bất cứ ai, vậy tại sao họ không nên mạo hiểm? Có rất nhiều cách mà con đường của họ sẽ đến, và thành thật mà nói, họ có lợi thế cạnh tranh thực sự bởi vì họ đã có sẵn kho dữ liệu đó.
Và sau đó, hóa ra, thật kỳ lạ, dường như không ai khác có thể xây dựng phần mềm tốt, do đó, cũng có rào cản công nghệ này để vào, điều mà tôi chưa hiểu rõ. Tôi nghĩ về nó như Ford: Thứ nhất, khi ông phát minh ra nhà máy, ông đã chạy một vài thập kỷ đó là những điều. Và sau đó mọi người xây dựng nhà máy, và bây giờ bạn có thể xây dựng một nhà máy từ một cái hộp. Vì vậy, tôi nghĩ rằng rào cản gia nhập sẽ biến mất. Nhưng ngay bây giờ, các công ty bảo hiểm, ngay cả khi họ có bộ dữ liệu của Google, Google thực sự sẽ không thể xây dựng phần mềm đủ tinh vi. Họ không có công nghệ AI để dự đoán rủi ro của bạn. Vì vậy, các công ty công nghệ này có hai lợi thế, một trong số đó có thể biến mất.
TP : Nhưng việc thu thập dữ liệu là một lợi thế lớn.
JA : Đó là một lợi thế lớn .
TP : Ý tôi là, rất nhiều hệ thống này đơn giản là không hoạt động trừ khi bạn có dữ liệu.
JA : Vâng, và đôi khi họ nói về nó như là dữ liệu đào tạo của họ, đó là tất cả dữ liệu mà họ thu thập và sau đó sử dụng để đào tạo các mô hình của họ. Và các mô hình của họ, theo định nghĩa, có thể đưa ra dự đoán tốt hơn vì họ có nhiều dữ liệu để bắt đầu. Vì vậy, bạn biết đấy, khi bạn xem các công ty này là độc quyền, một số người nghĩ về doanh thu quảng cáo. Tôi có xu hướng nghĩ về nó về các dữ liệu đào tạo. Có lẽ đó là những gì cần phải chia nhỏ, hoặc có thể nó phải là một tài nguyên công cộng, hoặc một cái gì đó, bởi vì đó là thứ khiến họ không thể cạnh tranh được.
Ảnh trên không của Cơ quan An ninh Quốc gia của Trevor Paglen. [Được ủy quyền bởi Báo cáo thời gian sáng tạo, 2013.]
Rh : họ sử dụng dữ liệu này tốt như thế nào Rất nhiều lần tôi đã rất ấn tượng với kết quả cuối cùng.
JA : Chà, đó là những gì xảy ra với các nhà độc quyền: họ trở nên lười biếng. Đó thực sự là một dấu hiệu của sự độc quyền.
TP : Yeah, cơ quan báo cáo tín dụng của bạn tốt như thế nào?
JA : Đó là rác!
Rh : hoàn toàn Tất cả dường như là rác, bạn biết không? Facebook liên tục điều chỉnh những gì họ chỉ cho tôi và nó luôn sai.
JA : Phải. Đó là lý do tại sao gần đây có một thông báo, như, Oh Oh, họ sẽ thay đổi nguồn cấp tin tức . Họ không quan tâm những gì trong nguồn cấp tin tức. Không thành vấn đề, bạn không phải là khách hàng. Họ không muốn bạn rời đi, nhưng bạn cũng không có nơi nào để đi, vì vậy. . .
Rh : phải Và nó giống như Hotel California: Bạn sẽ không bao giờ thực sự có thể rời đi.
JA : Vâng, đúng!
Rh : Vì vậy, họ tham gia vào nỗ lực dài hạn to lớn này để trở thành người gác cổng giữa bạn và bất kỳ dịch vụ nào bạn cần, bất cứ lúc nào bạn cần nhập tên của mình ở bất cứ đâu.
JA : Ý tôi là, thực sự, người gác cổng giữa bạn và tiền của bạn. Giống như, bất cứ điều gì cần thiết để thực hiện giao dịch đó.
Rh : hoặc để lấy tiền của người khác cho họ
JA : Vâng, chắc chắn, thông qua bạn.
KHI CHỦ NGHĨA TƯ BẢN GIÁM SÁT GẶP TƯ PHÁP HÌNH SỰ
TP : Chúng ta cũng không hoàn toàn bỏ qua nhà nước, bởi vì hồ sơ có thể được trát hầu tòa, thường không có lệnh. Tôi nghĩ về Ferguson rất nhiều, về việc nó là một hệ thống thành phố săn mồi đang ban hành, giống như, hàng chục ngàn lệnh bắt giữ đối với một dân số, như, nhiều người, và toàn bộ cơ sở hạ tầng được thiết kế để chỉ là con mồi toàn dân. Khi bạn kiểm soát các loại cơ sở hạ tầng lớn đó, về cơ bản đó là mô hình.
Rh : và đó là rất mạnh mẽ Làm thế nào để cơn khát tư nhân hóa của chính quyền hiện tại chơi vào loại điều này? Bởi vì tôi có thể tưởng tượng ra một tình huống mà bạn muốn có thẻ ID quốc gia, và ai là người phục vụ tốt hơn Facebook?
JA : Ồ, nỗ lực đó đang được tiến hành. Thực tế, có một nhóm làm việc quốc gia đã diễn ra được 5 năm, thực ra, đó là tìm kiếm khu vực tư nhân để phát triển các cách để xác thực danh tính và các công ty công nghệ rất tham gia vào đó. Điều thú vị về chính quyền này là thú vị, bởi vì sự thất bại của họ đối với nhân viên ở bất kỳ vị trí nào, có một số. . .
Rh : Một lớp lót bạc!
JA : Vâng, một số trong những nỗ lực này thực sự bị đình trệ! Vì vậy, đó thực sự có thể là một chiến thắng, tôi không biết. Nhưng các công ty luôn quan tâm đến việc cung cấp bản sắc kỹ thuật số đó.
TP : Chúng ta không cần phải nhìn vào cấp liên bang. Bạn có thể nhìn vào cấp thành phố, trong điều kiện các thành phố hợp tác với các tập đoàn để phát hành vé giao thông. Hoặc nhìn vào Google trong trường học. Tôi nghĩ rằng, với việc xây dựng các cơ sở hạ tầng này, có một loại tư nhân hóa thực tế đang xảy ra. Apple hoặc Google sẽ đến các thành phố; họ sẽ cung cấp máy tính cho các trường học của bạn, nhưng họ sẽ thu thập tất cả dữ liệu từ tất cả các sinh viên sử dụng nó, et cetera. Sau đó, họ sẽ sử dụng dữ liệu đó theo những cách khác hợp tác với các thành phố để tính phí cho các dịch vụ mà trước đây là dịch vụ công cộng.
Một lần nữa, có rất nhiều ví dụ về vấn đề này với việc kiểm soát các giải pháp cảnh giác. Công ty này có dữ liệu vị trí và đọc biển số xe sẽ nói rằng, Được rồi, chúng tôi có cơ sở dữ liệu về biển số xe này và chúng tôi sẽ đính kèm dữ liệu này vào cơ sở dữ liệu thành phố của bạn để bạn có thể sử dụng phần mềm của chúng tôi để xác định tất cả những người đó là ai nợ bạn tiền, những người có lệnh bắt giữ và án phí xuất sắc. Và chúng tôi sẽ thu phí dịch vụ về điều đó. Đó là mô hình kinh doanh. Tôi nghĩ đó là tầm nhìn của đô thị tương lai trong mọi lĩnh vực.
JA : Bạn biết đấy, đó là một ví dụ tuyệt vời bởi vì Vigilant thực sự là như vậy. . . về cơ bản, đó là repo men. Vì vậy, về cơ bản nó bắt đầu như săn mồi. Tất cả những người đàn ông repo này đã lái xe quanh các thành phố suốt đêm, tìm kiếm những chiếc xe của mọi người mà các đại lý đang thu hồi vì mọi người không trả tiền. Sau đó, họ nhận ra, Oh Oh, chính phủ thực sự sẽ yêu thích một cơ sở dữ liệu quốc gia về biển số xe của mọi người, vì vậy họ bắt đầu quét bằng các đầu đọc biển số tự động này trên ô tô của họ.
Vì vậy, những người đàn ông repo trên khắp đất nước đi ra ngoài mỗi đêm, tôi nghĩ đó là Baltimore, nơi đối thủ của Vigilant có bốn mươi chiếc xe đi ra ngoài mỗi đêm, chụp ảnh mọi nơi đỗ xe và đưa họ vào cơ sở dữ liệu. Và sau đó họ xây dựng những thứ này trên toàn quốc, và họ giống như, Oh Oh, DHS, bạn có muốn biết một chiếc xe hơi ở đâu không? và sau đó họ trả giá cho một hợp đồng . Và vì vậy, bạn thêm lớp chính phủ và sau đó bạn thêm lại phần săn mồi của nó, đó là thực sự ngoạn mục.
Rh : Nhưng nếu bạn nói chuyện với một giám đốc điều hành tại Vigilant, họ sẽ như thế nào, vấn đề là gì? Chúng tôi chỉ cung cấp một loại dịch vụ.
JA : Vâng, tôi đã dành rất nhiều thời gian với các đối thủ cạnh tranh của họ ở Chicago, đã gặp một nhóm những người đàn ông repo rất tốt bụng nói rằng, Hãy nhìn, chúng tôi đang làm việc của Chúa. Ý tôi là, đây là những người xấu, và chúng ta phải bắt họ. Rồi tôi nói, bạn có thể tra cứu xe của tôi không? Và bùng nổ , họ nhấn nút, và nó ở ngay trên đường trước nhà tôi! Tôi đã như thế, thánh chết tiệt.
TP : Chà.
JA : Điều đó thật đáng sợ.
Rh : thật điên rồ Đó là kiểu mà một lần nữa, tôi sẽ như thế, không ai biết xe của tôi ở đâu; Tôi không biết xe của tôi ở đâu! Họ không chết tiệt khi tìm nó, bạn biết không?
JA : Phải.
TP : Nhưng bạn có thể đưa nó đi xa hơn. Hãy nghĩ về thế hệ tiếp theo của xe Ford. Họ biết chính xác nơi chiếc xe của bạn mọi lúc, vì vậy bây giờ Ford trở thành một công ty dữ liệu lớn cung cấp dữ liệu định vị địa lý.
Rh : Và bạn thậm chí sẽ không sở hữu chiếc xe của mình vì phần mềm của nó bây giờ là tài sản của nhà sản xuất ô tô.
TP : Nó quay trở lại vấn đề về việc bạn sẽ đến các cửa hàng rượu, cho dù bạn đang tăng tốc. Ngày mai, Ford có thể lập một chương trình cho cơ quan thực thi pháp luật nói rằng, Mỗi khi ai đó tăng tốc, bất cứ khu vực nào thuộc thẩm quyền của bạn, bạn có thể cấp cho họ một vé nếu bạn đăng ký. . . " Bạn biết? Ý tôi là, đây là một chương trình hợp tác thực thi giao thông đầy đủ.
JA : Và một điều tôi chỉ muốn nói, bởi vì tôi phải nêu vấn đề về thủ tục tố tụng ít nhất một lần trong bất kỳ cuộc trò chuyện nào như thế này. Chồng tôi và tôi chiến đấu về vấn đề này mọi lúc: anh ấy thích, tôi muốn họ biết rằng tôi lái xe an toàn vì tôi an toàn và tôi rất vui khi có GPS trong xe, và tôi thật tuyệt vời, và tôi sẽ được hưởng lợi từ hệ thống này. Nhưng vấn đề là, khi bạn nghĩ về máy ảnh đèn đỏ và vé tự động, vốn đã trở nên khá phổ biến, đó thực sự là một vấn đề đúng quy trình. Làm thế nào để bạn chiến đấu với nó? Nó có lẽ sẽ rất khó để làm. Giống như, chúng ta sẽ phải cài đặt camera bảng điều khiển giám sát chính mình để có một số loại bảo vệ chống lại nhà nước giám sát chúng ta, hoặc bất cứ ai đang giám sát chúng ta?
Tôi nghĩ rằng rất nhiều vấn đề được nêu ra bởi loại điều này thực sự là về, và tôi ghét phải nói nó, nhưng quyền cá nhân của chúng tôi. Giống như về thực tế là bạn không thể chiến đấu với các hệ thống này.
TP : Đó là sự thật. Có rất nhiều quyền thực tế chúng ta có vì hệ thống quyền lực không hiệu quả. Sử dụng một khuôn khổ của công lý hình sự trong đó đây là luật, đây là giới hạn tốc độ và nếu bạn vi phạm rằng bạn vi phạm luật thì đó không thực sự là cách chúng ta sống trong lịch sử.
JA : Phải.
TP : Và điều đó rất dễ thay đổi với các loại hệ thống này.
Rh : Vâng, bởi vì sau đó nếu bạn đang nhắm mục tiêu ai đó, đó là nơi dữ liệu được vũ khí hóa. Ngoài ra, có rất nhiều sự bất tài cấp bậc trong công lý hình sự, và trong tất cả các hệ thống của con người. Có lẽ ân sủng cứu rỗi của nó là con người chỉ có thể xử lý rất nhiều thứ cùng một lúc.
TP : Tôi nghĩ điều buồn cười là các công đoàn cảnh sát phản đối mạnh mẽ nhất việc lắp đặt những thứ như máy ảnh đèn đỏ vì họ muốn điều đó không hiệu quả.
Rh : Vâng, và họ nói, chúng tôi đang thực hiện các cuộc gọi phán xét.
JA : Ý tôi là có một câu chuyện điên rồ, bạn biết những người lái xe tải, phải không? Các tài xế xe tải đang được giám sát bởi chủ nhân của họ. Rất nhiều người trong số họ là người tự do, nhưng có những quy tắc liên bang về việc bạn có thể lái xe bao nhiêu giờ. Đây là một trong những ví dụ kinh điển giống như phúc lợi xã hội, nơi bạn thực sự không thể ăn đủ với số tiền họ đưa cho bạn, nhưng việc làm thêm là bất hợp pháp.
Tương tự như vậy, đối với những người lái xe tải, số giờ bạn cần lái xe để kiếm tiền nhiều hơn số giờ bạn được phép lái xe. Và để đảm bảo tài xế xe tải không vượt quá những dặm, họ đã thêm tất cả các màn hình GPS cho xe tải, và tài xế xe tải đang tham gia vào các chiến lược countersurveillance khổng lồ, giống như, lăn ngược hàng dặm, và làm tất cả những công cụ này điên. Và có một điều tuyệt vời vào một ngày tại Newark, một hoặc hai năm trước, nơi tháp điều khiển bị mất liên lạc với các máy bay tại Sân bay Newark, và hóa ra đó là vì một người lái xe tải. Anh ấy đang lái xe ở sân bay và anh ấy có khả năng giám sát mạnh mẽ như vậy đối với màn hình GPS của anh ấy đến nỗi anh ấy làm gián đoạn giao thông hàng không!
TP : Chà!
Rh : hoang dã Chúa ơi, một thập kỷ trước tôi đã ở BART, và tôi không bao giờ làm điều này, nhưng tôi đã nói chuyện với anh chàng bên cạnh tôi và anh ấy là một tài xế xe tải. Anh ấy đã nói với tôi về sự giám sát của nó vào thời điểm đó. Anh ấy giống như, điều này đã xảy ra rồi. Đây là 10 năm trước! Ông cho biết những loại xe tự lái đầu tiên sẽ là xe tải.
JA : Vâng, đúng vậy, họ sẽ trở thành xe tải.
Rh : Tôi chỉ nhớ ra khỏi BART và trở nên như thế, nếu vậy đó là một lời sấm truyền hay gì đó?
JA : Những người lái xe tải đang mang đến cho chúng ta những tin tức từ tương lai.
LÀM THẾ NÀO CHÚNG TA THUÊ NGOÀI NIỀM TIN CHO CÁC CÔNG TY MÀ CHÚNG TA KHÔNG TIN TƯỞNG
Rh : Vì vậy, cuộc trò chuyện này đang được đóng khung như là sự kết thúc của niềm tin, nhưng chúng ta có tin tưởng không?
JA : Tôi không chắc là tôi đồng ý với việc chấm dứt sự tin tưởng. Tôi đang xem điều này như là một sự thuê ngoài của niềm tin ngay bây giờ. Vì vậy, về cơ bản, tôi nghĩ rằng trong cuộc tìm kiếm hiệu quả và kiểm soát vô tận này, chúng tôi đã chọn ăn và đôi khi tôi nghĩ rằng đó là một điều tốt để tin tưởng vào dữ liệu qua các tương tác của con người. Chúng ta đang trong cuộc tranh luận lớn này, ví dụ, về tin tức giả mạo. Chúng tôi đã quyết định đó là tất cả vấn đề của Facebook. Họ cần xác định cái gì là thật và cái gì không. Tại sao chúng tôi thuê ngoài sự tin tưởng của tất cả những gì có thật trên thế giới, tất cả sự thật, vào Facebook? Hoặc với Google, với thuật toán tin tức? Nó không có nghĩa gì cả.
Và do đó, trong quá trình tổng hợp dữ liệu, bằng cách nào đó chúng tôi cũng đã cho đi rất nhiều số liệu về niềm tin của mình, và đó là một phần vì các công ty này có quá nhiều dữ liệu và họ tạo ra một trường hợp mạnh mẽ đến mức họ có thể làm điều đó với toán học, và họ sẽ giành được nó với AI, họ sẽ mang đến cho chúng ta những dự đoán hoàn hảo.
Điều tôi thực sự quan tâm là thực tế là chúng tôi đã phá vỡ hệ thống niềm tin của con người mà chúng tôi hiểu. Các nghiên cứu cho thấy rằng khi bạn nhìn vào một người, bạn sẽ thiết lập niềm tin với họ, giống như, trong một phần nghìn giây. Và bạn có thể nói với những người không đáng tin ngay lập tức. Bạn thậm chí không thể nói rõ nó; bạn chỉ cần biết Nhưng trực tuyến và thông qua dữ liệu, chúng tôi không có các hệ thống đó, vì vậy thật dễ dàng để tạo ra các công cụ giả mạo trực tuyến và chúng tôi không biết cách xây dựng một hệ thống đáng tin cậy. Đó là điều thú vị nhất đối với tôi về thời điểm chúng ta ở.
Tôi nghĩ rằng chúng ta đang ở một thời điểm mà chúng ta có thể lấy lại nó. Chúng ta có thể nói, Đây là những gì báo chí là, và phần còn lại của những thứ đó không phải là. Hãy khẳng định những gì đáng tin cậy. Chúng ta đã luôn có người gác cổng thông tin, phải không? Các giáo viên sẽ nói, hãy đọc cuốn bách khoa toàn thư này, đó là nơi có sự thật. Bây giờ các con tôi về nhà và chỉ cần tìm kiếm mọi thứ trên internet. Chà, đó không phải là cách đúng đắn để làm điều đó. Tôi nghĩ rằng chúng ta đang ở giai đoạn mà chúng ta chưa tìm ra cách thiết lập niềm tin trực tuyến và chúng ta đã gia công nó cho các công ty lớn, những người không có lợi ích của chúng ta.
RH : Về “sự kết thúc của niềm tin,” những gì không cảm giác đe dọa hoặc giá trị tạo ra hành động tập thể xung quanh?
TP : Đối với tôi, đó là khả năng của cơ sở hạ tầng, cho dù là riêng tư hay chính sách, để có thể truy cập vào những khoảnh khắc trong cuộc sống hàng ngày của bạn vượt xa những gì họ có khả năng 20 năm trước. Đó không phải là một sự thay đổi về hiện vật, đó chỉ là khả năng vốn và cảnh sát thực sự hóa cuộc sống theo những cách mở rộng hơn nhiều.
Rh : Cả hai bạn đang tham gia vào công việc cố gắng làm cho công cụ này hiển thị trên mạng và rất khó. Các công ty không muốn bạn nhìn thấy nó. Trevor, rất nhiều công việc của bạn, là về công cụ nội tạng, và công việc của bạn, Julia, đã nói về việc, chúng tôi đã thử nghiệm các thuật toán này, chúng tôi có thể chỉ cho bạn cách Facebook chọn hiển thị một công cụ 25 tuổi quảng cáo việc làm và một người khác 55 tuổi. Bạn ước gì bạn có thể cho mọi người thấy?
TP : Có những giới hạn rất rõ ràng về chính trị làm cho những điều này hiển thị. Vâng, chắc chắn, đó là bước một, và nó hữu ích vì nó phát triển vốn từ vựng mà bạn có thể sử dụng để có một cuộc trò chuyện. Công việc mà bạn làm, Julia, tạo ra một từ vựng để chúng tôi có thể nói về mối quan hệ giữa Facebook và quy trình do chúng tôi không có từ vựng, thực sự, thậm chí còn có một cuộc trò chuyện dễ hiểu về trước đây.
Tôi nghĩ rằng đó chỉ là một phần của một dự án lớn hơn nhiều, nhưng bản thân nó không làm gì cả. Đó là lý do tại sao chúng ta phải phát triển một ý thức khác về công dân, thực sự. Một ý thức có ý thức hơn về những phần trong cuộc sống hàng ngày của chúng ta, chúng ta muốn tuân theo các loại cơ sở hạ tầng này, và chúng ta không. Có những thứ tốt mà bạn có thể làm, ví dụ, với trí tuệ nhân tạo, như khuyến khích hiệu quả năng lượng. Vì vậy, tôi nghĩ rằng chúng ta cần phải nói rằng, Okay Được rồi, đây là những điều mà chúng tôi muốn tối ưu hóa và đây là những điều mà chúng tôi không muốn tối ưu hóa. Không nên phụ thuộc vào vốn, và cảnh sát, và tùy thuộc vào nhà nước an ninh quốc gia để quyết định những tiêu chí tối ưu hóa đó sẽ là gì.
CÓ CHUYỆN GÌ VỚI AI VẬY?
JA : Tôi tin tưởng mạnh mẽ rằng để giải quyết vấn đề, bạn phải chẩn đoán nó và chúng tôi vẫn đang trong giai đoạn chẩn đoán điều này. Nếu bạn nghĩ về sự thay đổi của thế kỷ và công nghiệp hóa, chúng ta đã biết, 30 năm lao động trẻ em, thời gian làm việc không giới hạn, điều kiện làm việc tồi tệ, và phải mất rất nhiều nhà báo muckraking và vận động để chẩn đoán vấn đề và có một số hiểu biết về những gì nó đã được, và sau đó các hoạt động để có được luật thay đổi.
Tôi cảm thấy như chúng ta đang trong một công nghiệp hóa thông tin dữ liệu thứ hai. Tôi nghĩ rằng một số người gọi nó là tuổi máy thứ hai. Chúng ta đang trong giai đoạn thức dậy từ sự phấn khích và phấn khích khi được tiếp cận với công nghệ trong tầm tay mọi lúc. Đó thực sự là 20 năm qua của chúng tôi, sự hưng phấn đó, và bây giờ chúng tôi giống như, Who Whoa, có vẻ như có một số nhược điểm. Tôi thấy vai trò của mình là cố gắng làm rõ nhất có thể những nhược điểm là gì, và chẩn đoán chúng thực sự chính xác để chúng có thể giải quyết được. Đó là công việc khó khăn, và nhiều người cần phải làm điều đó. Nó ngày càng trở thành một lĩnh vực, nhưng tôi không nghĩ rằng chúng ta đang ở đó.
Một điều chúng tôi thực sự chưa giải quyết: Nghe có vẻ rất hay, nhưng chúng tôi chưa nói về việc tẩy não. Sự thật là con người rất dễ mắc bệnh. Chúng ta chưa bao giờ ở trong một thế giới nơi con người có thể tiếp xúc với mọi ý tưởng khủng khiếp trong vũ trụ. Có vẻ như, từ những gì bạn thấy ngoài kia, mọi người khá dễ bị thuyết phục bởi những thứ khá ngu ngốc, và chúng ta không biết đủ về điều đó, tâm lý não bộ đó. Điều thú vị là các công ty công nghệ đã tuyển dụng một số người giỏi nhất trong lĩnh vực đó, và do đó, có một chút lo lắng rằng họ có thể biết nhiều hơn các tài liệu học thuật được trình bày.
Rh : thật điên rồ
JA : Tôi biết, tôi ghét nói tẩy não . Có lẽ có một từ tốt hơn cho nó. Thuyết phục nhận thức hoặc một cái gì đó.
Rh : Hoặc chỉ hiểu con người là động vật và chúng ta đang nhận được những tín hiệu động vật này.
JA : Vâng, đúng rồi. Ý tôi là, chúng ta có những kinh tế học hành vi. Điều đó đã dẫn một chút xuống đường, nhưng họ đã không đi xa như những gì bạn thấy với vòng xoáy của các công cụ khuyến nghị, ví dụ, trên Facebook, nơi bạn tìm kiếm một thứ liên quan đến vắc-xin và bạn đã dẫn xuống từng lý thuyết âm mưu chống vaxx và chemtrails, và cuối cùng bạn uống nước thô ra khỏi cống vào cuối của nó.
Rh : Phải, bạn chi 40 đô la tại một cửa hàng tạp hóa Rainbow ở San Francisco để mua nước thô của bạn.
JA : Đó là một con đường tuyệt vời. Mọi người trở nên cực đoan thông qua những loại điều này và chúng ta không hiểu đủ về các biện pháp đối phó.
Rh : Vâng, điều đó thực sự đáng sợ. Các bạn có tương tác với những người trẻ tuổi? Họ có cho bạn cảm giác hy vọng không?
JA: Con gái tôi thật tuyệt vời. Cô ấy 13. Tôi thực sự có hy vọng lớn cho giới trẻ bởi vì cô ấy thực sự chỉ nói chuyện trên Snapchat, vì vậy cô ấy hoàn toàn chìm đắm vào mọi thứ. Và tính cách công khai của cô ấy rất tích cực và tuyệt vời. Cô ấy, giống như, năm bức ảnh trên Instagram của cô ấy, được quản lý chặt chẽ, và tất nhiên, cô ấy có năm Instagram khác nhau cho các vòng tình bạn khác nhau. Thật ấn tượng! Ý tôi là nó tốn rất nhiều thời gian và tôi buồn cho cô ấy rằng cô ấy phải dành thời gian đó, bởi vì ở tuổi đó, tất cả những gì tôi mặc là màu hồng và màu ngọc lam trong hai năm liền và không có tài liệu nào về nó. Giống như, không có gì. Đó là chiều cao của Esprit. Và tôi chỉ có thể nói với bạn điều đó, và bạn sẽ không bao giờ nhìn thấy nó. Cô ấy sẽ luôn luôn có con đường đó, đó là một người lập dị,
Rh : vâng Tôi luôn bị cuốn hút bởi thói quen vệ sinh máy tính của thanh thiếu niên.
JA : Tôi nghĩ rằng họ tốt hơn người lớn '.
Rh : tôi tò mò về công cụ AI Có rất nhiều sự cường điệu xung quanh AI, nhưng tất cả những gì tôi thực sự thấy về nó là những hình ảnh sai lệch trên Reddit hoặc một cái gì đó. Tôi thích, chúng tôi đang huấn luyện chúng để nhận ra hình ảnh của những chú chó, bạn biết không? Mục tiêu cuối cùng là gì? Là công nghệ này sẽ định hình mạnh mẽ tương lai của chúng ta theo cách đáng sợ và ẩn giấu? Hoặc là rất nhiều công việc, rất nhiều tiền và rất nhiều thời gian cho một kết quả mà dường như, thẳng thắn, không ấn tượng?
TP : Vâng, có những bức ảnh bị lỗi trên Facebook và Reddit và đó là thứ mà những người như chúng tôi chơi với nó. Đó không thực sự là những gì đang diễn ra dưới mui xe. Đó không phải là những gì thúc đẩy các công ty.
JA : Tôi muốn chúng tôi sao lưu một chút vì AI đã được định nghĩa quá hẹp. AI từng có nghĩa là tự động ra quyết định. Sau đó, gần đây nó được định nghĩa là học máy. Học máy đang ở giai đoạn đầu, vì vậy bạn thấy rằng họ đã phạm sai lầm. Google mô tả khuôn mặt đen là khỉ đột vì chúng có dữ liệu huấn luyện [thiên về chủng tộc]. Nhưng trên thực tế, mối đe dọa của AI, đối với tôi, rộng hơn là phần học máy của nó. Mối đe dọa thực sự là ý tưởng về việc trao niềm tin và ra quyết định cho các chương trình mà chúng tôi đã đưa ra một số quy tắc và thả lỏng. Và khi chúng tôi đưa những quy tắc đó vào, chúng tôi đưa những thành kiến của mình vào. Vì vậy, về cơ bản, chúng tôi đã tự động hóa những thành kiến của mình và khiến chúng không thể giải thích được. Bạn không có quá trình do nữa để chiến đấu chống lại những thành kiến.
Một điều thực sự quan trọng là chúng ta đang tiến vào một thế giới nơi một số người bị máy móc đánh giá, đó là người nghèo và dễ bị tổn thương nhất, và một số người bị con người đánh giá, và đó là người giàu. Và về cơ bản, chỉ có một số người được sắp xếp theo AI kèm theo hoặc bất cứ thứ gì chúng ta gọi là: thuật toán, quyết định tự động, và sau đó những người khác có thể theo dõi nhanh. Nó giống như TSA PreCheck.
Liên quan: Một loại thuế khác cho người nghèo: giao dịch quyền riêng tư để sinh tồn
TP : Một bài báo xuất hiện báo cáo rằng Tesco, nhà tuyển dụng tư nhân lớn nhất của Vương quốc Anh, sử dụng AI càng nhiều càng tốt trong quá trình tuyển dụng. Trong khi chiều nay tôi phải tham gia một ủy ban tuyển dụng giám đốc mới của tổ chức chúng tôi: đó là tất cả mọi người.
JA : Vâng, đúng, chính xác. Nó gần giống như hai thế giới riêng biệt. Và đó là điều tôi nghĩ là đáng lo ngại nhất. Tôi đã viết về những thành kiến trong công nghệ của AI, nhưng vấn đề là, những thành kiến đó chỉ nằm trong nhóm những người bị đánh giá bởi nó, vốn đã là một tập hợp con.
TP : Bạn tôi đã có một câu nói vui. Chúng tôi đã nói về điều này và cô ấy nói, Sự kỳ dị đã xảy ra: Nó được gọi là chủ nghĩa mới.
JA: Ồ vâng, đó là câu nói hay nhất mọi thời đại. Tôi sẽ nói điều này, chỉ vì tôi muốn được ghi nhận về nó: Tôi thực sự không có kiên nhẫn cho các cuộc thảo luận về sự kỳ dị bởi vì những gì họ làm chỉ là để thực sự rõ ràng về nó, đó là di chuyển quả bóng ở đây, để bạn không được phép quan tâm đến bất cứ điều gì xảy ra ngay bây giờ trong cuộc sống thực. Họ giống như vậy, Bạn phải đợi cho đến khi robot giết người lo lắng, và bạn không được phép lo lắng về những gì đang xảy ra với phân phối phúc lợi, và phân loại 'người nghèo' từ 'người nghèo xứng đáng' , 'Chỉ - đó thực sự là tất cả những hệ thống tự động đó: ý tưởng này có một số người đáng bị nghèo và một số người không. Về mặt đạo đức, đó đã là một cấu trúc sai, nhưng sau đó chúng tôi đã tự động hóa các quyết định đó để chúng không thể bị phá hủy.
Rh : Vì vậy, bạn có thể đi qua toàn bộ hệ thống và không bao giờ nhìn thấy một con người, nhưng tất cả các thành kiến của con người đã được nhúng rõ ràng.
JA : Vâng, có một cuốn sách tuyệt vời về cuốn Tự động bất bình đẳng của Virginia Eubanks mà tôi rất khuyến khích.
OPSEC CÁ NHÂN
Rh : hai bạn có thể nói một chút về vệ sinh an ninh cá nhân của bạn không?
TP : Chà, mọi người luôn như vậy, chúng tôi chọn cung cấp dữ liệu của mình cho Google. Không, chúng tôi không. Nếu bạn muốn có công việc của bạn, nếu bạn muốn có công việc của tôi, bạn phải sử dụng các thiết bị này. Ý tôi là, đó chỉ là một phần của cuộc sống trong xã hội, phải không?
JA : Đúng.
TP : Tôi có một người làm việc cho tôi, người không chọn, và đó là một vấn đề đau đầu hoàn toàn, theo nghĩa đen là toàn bộ studio phải tuân theo người này sẽ không có điện thoại thông minh. Điều đó đáng giá bởi vì họ thực sự tài năng, nhưng đồng thời, tại bất kỳ công ty nào khác, hãy quên nó đi. Đây là một phần của cơ sở hạ tầng hàng ngày của chúng tôi mà bạn không có khả năng cá nhân để chọn sử dụng chúng hay không. Ngay cả khi bạn không sử dụng Facebook, họ vẫn có công cụ của bạn.
Liên quan : Nếu bạn coi trọng quyền riêng tư của mình, hãy chuyển sang Tín hiệu làm ứng dụng nhắn tin của bạn ngay bây giờ
JA : Vâng, tôi đồng ý. Tôi không muốn cho ấn tượng rằng có một số sự lựa chọn. Lý do tôi viết cuốn sách của mình từ tài khoản của người đầu tiên cố gắng từ chối tất cả những điều này là để cho thấy rằng nó không hoạt động. Và tôi không chắc mọi người đều có bức ảnh đó, vì vậy tôi muốn nói rõ điều đó. Tôi thực hiện các biện pháp nhỏ ở đây và xung quanh các góc, nhưng, không, tôi sống ở thế giới, và đó là cái giá của cuộc sống trên thế giới hiện tại. Tôi muốn kết thúc lưu ý rằng đây là một vấn đề tập thể mà bạn không thể giải quyết riêng lẻ.
Rh : Đúng, như, tải xuống Signal rất tuyệt, nhưng nó sẽ không giải quyết được các vấn đề lớn hơn.
TP : Chính xác. Tôi nghĩ rằng một vấn đề thực sự quan trọng trong cuộc trò chuyện này là các vấn đề này trong lịch sử đã được nói rõ ở quy mô của cá nhân, và điều đó không có ý nghĩa gì với cơ sở hạ tầng hiện tại mà chúng ta đang sống.
JA : Phải. Nhưng hãy tải xuống Tín hiệu.
Quên về quyền riêng tư của người Hồi giáo: Julia Angwin và Trevor Paglen về cuộc khủng hoảng dữ liệu của chúng tôi
[Ảnh: Matthew Henry / Bapt]
TÁC GIẢ REYHAN HARMANCIĐỌC LÂU
Tác phẩm này ban đầu xuất hiện trong The End of Trust: McSweeney's 54 , một bộ sưu tập gồm hơn 30 nhà văn điều tra giám sát, công nghệ và quyền riêng tư, với các cố vấn đặc biệt của Electronic Frontier Foundation. Để biết thêm về những vấn đề này, hãy xem loạt bài Phân chia quyền riêng tư của chúng tôi .
Trong sự tấn công hàng ngày của các tiêu đề mất trí nhớ, hai từ thường được tìm thấy tạo thành tiếng trống, kết nối các sự kiện tin tức dường như khác nhau: bảo mật và quyền riêng tư. Phương tiện truyền thông xã hội là một câu chuyện về việc chúng ta hy sinh quyền riêng tư, vô tình và hữu ý. Sự hy sinh này thường được đóng khung như một lựa chọn cá nhân hơn là hành động tập thể. Vi phạm của các ngân hàng, máy bỏ phiếu, bệnh viện, thành phố và các công ty dữ liệu như Equachus đã phơi bày sự dối trá của bảo mật, cụ thể là thông tin của chúng tôi luôn an toàn trước những kẻ xâm nhập. Nhưng nghệ sĩ Trevor Paglen và nhà báo Julia Angwin, hai trong số những người có đầu óc nhạy bén nhất thế giới về những chủ đề đó, thà không sử dụng những từ đó.
Paglen có trụ sở tại Berlin, người có bằng tiến sĩ về địa lý từ Berkeley, đã xây dựng sự nghiệp nghệ thuật của mình bằng cách giúp tạo ra bức ảnh không thể nhìn thấy rõ ràng để thu hút sự chú ý của chúng tôi đến các dây cáp chạy dưới Đại Tây Dương, tạo thành cơ sở hạ tầng internet, ví dụ, hoặc tranh thủ theo dõi nghiệp dư để giúp tìm các vệ tinh được phân loại của Mỹ và các mảnh vụn không gian không xác định khác.
Angwin, một nhà báo và tác giả từng đoạt giải thưởng, đã tiết lộ, chẳng hạn, sự phân biệt chủng tộc và sự cố chấp làm nền tảng cho các thuật toán của Facebook cho phép công ty bán nhân khẩu học như là người Do Thái ghét ghét các nhà quảng cáo sẵn sàng. Năm ngoái, cô rời khỏi ProPublica để xây dựng một phòng tin tức tại các Markup để tiếp tục công việc của tổ chức công ty công nghệ chịu trách nhiệm về tác động của chúng đối với xã hội của mình. [Trong một diễn biến bất ngờ trong tuần này, Angwin tuyên bố cô đã bị loại khỏi vai trò tổng biên tập vì những bất đồng với giám đốc điều hành của ấn phẩm, khiến nhiều nhân viên biên tập của Markup phải từ chức để phản đối .]
Năm ngoái, tôi đã nói chuyện với Trevor và Julia ở thành phố New York về mối quan tâm của họ, công việc của họ và nhiều hơn nữa.
Reyhan Harmanci: Vì vậy, các bạn biết nhau.
Julia Angwin và Trevor Paglen: Vâng.
Rh : khi nào con đường của bạn đi qua?
JA : Chúng tôi đã gặp nhau trước Snowden, yeah, bởi vì tôi đang viết cuốn sách về giám sát và bạn đang làm nghệ thuật tuyệt vời của mình.
TP : Và bạn đã liên lạc với tôi và tôi giống như, Bạn là một người điên khùng, và không viết lại.
JA : Tôi đã viết thư cho anh ấy, và tôi giống như, Tôi muốn sử dụng một trong những tác phẩm nghệ thuật của bạn trên trang web của tôi, và nó có giá bao nhiêu? và anh ấy giống như, What Whats, bạn thậm chí còn không đủ ngầu.
TP : Đó là một trong những khoảnh khắc xấu hổ nhất trong cuộc đời tôi. Bạn biết đấy, tôi nhận được một triệu email đó mỗi ngày.
JA : Tôi cũng vậy! Tôi phớt lờ tất cả bọn họ, và rồi một ngày người đó sẽ ngồi ngay cạnh tôi, và tôi sẽ như thế, He Heh, xin lỗi.
Vấn đề với email là mọi người trên thế giới đều có thể tiếp cận bạn. Hơi quá, phải không? Đó không phải là một tình huống bền vững. Nhưng vâng, đôi khi chúng ta đã gặp nhau trong thời kỳ tiền Snowden, mà bây giờ có vẻ như là một loại màu nâu đỏ. . .
TP : . . . toa xe và tiên phong. . .
JA: Chính xác. Và điều thú vị về thế giới này là chúng ta đã đi trên cùng một con đường. Đó là một hành trình thú vị, giống như một phong trào, phải không? Nó bắt đầu về quyền cá nhân và giám sát và chính phủ, và rất hay chuyển sang công bằng xã hội, và tôi nghĩ đó là quỹ đạo đúng đắn. Bởi vì vấn đề với từ trước đây được gọi là quyền riêng tư là nó không phải là một tác hại cá nhân, nó là một tác hại tập thể.
TP : Đúng vậy.
JA : Và việc đóng khung nó xung quanh các cá nhân và quyền cá nhân đã thực sự dẫn đến, tôi nghĩ, một sự tầm thường hóa của các vấn đề. Vì vậy, tôi thực sự hài lòng với cách mà phong trào đã phát triển để bao gồm nhiều vấn đề công bằng xã hội hơn.
Rh : Tôi muốn tìm hiểu lý do tại sao các bạn thích từ tin tưởng hơn là giám sát hoặc quyền riêng tư , hai từ mà tôi nghĩ có liên quan đến cả hai bạn theo những cách khác nhau. Bạn có ký ức nào về lần đầu tiên bạn hiểu rằng có một bộ máy có thể theo dõi bạn không?
Julia Angwin
JA : Đó là một câu hỏi thú vị. Tôi là đứa trẻ nghĩ rằng bố mẹ tôi biết tất cả mọi thứ tôi đang làm khi tôi ở với họ, vì vậy tôi sợ phá vỡ các quy tắc. Tôi đã rất vâng lời. Bố mẹ tôi nghĩ truyền hình là xấu, nên ở nhà bạn bè tôi sẽ như thế, tôi không thể xem tivi. Và họ sẽ như thế, nhưng đây là một cơ hội của bạn!
Và tôi đã dành cả đời để hồi phục từ mức độ vâng lời đó bằng cách cố gắng không vâng lời nhất có thể. Tôi đã cảm thấy như cha mẹ tôi là một thực thể nhìn thấy tất cả, bạn biết, và tôi đã rất sợ nó. Và tôi nghĩ rằng có lẽ đã hình thành một số hoang tưởng liên tục của tôi, có lẽ.
Rh : phải, vâng Tôi là một đứa trẻ thực sự tốt, quá .
JA : Vâng, nó không tốt, điều tốt đó.
TP : Tôi nghĩ rằng tôi có ý thức lớn lên trong các cấu trúc không phù hợp với tôi và cảm giác như có một sự bất công sâu sắc xung quanh đó. Cảm giác như thế giới được thiết lập để đưa bạn xuống những con đường nhất định và thực thi những hành vi và chuẩn mực nhất định không phù hợp với tôi, và nhận ra rằng giá trị của từ này trước đây được gọi là quyền riêng tư , còn được gọi là tự do , không chỉ chơi ở quy mô của cá nhân, nhưng cũng là một loại tài nguyên công cho phép khả năng, một mặt, thử nghiệm, nhưng sau đó, mặt khác, những thứ như tự do dân sự và tự đại diện.
Bạn nhận ra rằng để cố gắng biến thế giới thành một nơi công bằng hơn, và một nơi có công lý hơn, bạn phải có các thành phần của xã hội nơi các quy tắc có thể linh hoạt, có thể được tranh cãi và thách thức. Đó là lý do tại sao tôi nghĩ rằng cả hai chúng tôi không quan tâm đến quyền riêng tư như một khái niệm nhiều như sự ẩn danh như một tài nguyên công cộng. Và tôi nghĩ rằng có một khía cạnh chính trị trong vấn đề tạo ra một không gian để mọi người thực hiện các quyền hoặc quyền yêu cầu mà trước đây không tồn tại. Ví dụ kinh điển là quyền dân sự: Có rất nhiều người đã vi phạm pháp luật. Tương tự với nữ quyền, giống với ACT UP, giống với toàn bộ lịch sử của các phong trào công bằng xã hội.
Và sau đó khi chúng ta thấy sự tăng cường của các hệ thống cảm biến, cho dù đó là NSA hay Google, chúng ta đang thấy những hình thức quyền lực nhà nước và sức mạnh vốn lấn chiếm vào những khoảnh khắc trong cuộc sống hàng ngày của chúng ta mà trước đây chúng không thể đạt tới. Điều gì chuyển thành nếu bạn là một công ty đang cố rút tiền ra khỏi những khoảnh khắc mà trước đây bạn không có quyền truy cập, cho dù đó là lịch sử tìm kiếm Google của tôi hoặc dữ liệu vị trí trên điện thoại của tôi cho bạn biết nếu tôi đi tập thể dục hay không. Có một loạt các quyền và tự do thực tế phát sinh từ thực tế rằng không phải mọi hành động đơn lẻ trong cuộc sống hàng ngày của bạn đều có hậu quả kinh tế hoặc chính trị.
Đó là một trong những điều mà tôi nghĩ đang thay đổi, và một trong những điều đang bị đe dọa ở đây. Khi bạn có các tập đoàn hoặc cấu trúc chính trị có khả năng thực thi quyền lực ở những nơi mà cuộc sống của chúng ta mà trước đây họ không có quyền truy cập, đơn giản là vì chúng không hiệu quả, nó sẽ tạo ra một xã hội sẽ phù hợp hơn và xa hơn cứng nhắc, và thực sự hơn nhiều săn mồi.
JA : Tôi đồng ý.
CÓ GÌ SAI VỚI QUYỀN RIÊNG TƯ CỦA CAMERON
Rh : điều gì làm cho các bạn không thích từ riêng tư ?
JA : Chà, khi tôi nghĩ về sự riêng tư, tôi nghĩ muốn ở một mình. Ý tôi là, tôi nghĩ đó là ý nghĩa ban đầu của nó. Nhưng sự thật là các vấn đề chúng ta đang thảo luận không thực sự muốn cô độc. Họ thực sự muốn có thể tham gia vào sự kết nối tuyệt vời mà internet đã mang đến cho thế giới, nhưng không từ bỏ mọi thứ. Vì vậy, quyền riêng tư, vâng, tôi muốn bảo vệ dữ liệu của mình và thực sự là quyền tự chủ của tôi, nhưng điều đó không có nghĩa là tôi không muốn tương tác với mọi người. Tôi nghĩ sự riêng tư chỉ mang ý nghĩa của, À, bạn cũng vậy, giống như, phản xã hội, và thực tế thì ngược lại.
Trevor Paglen
TP : Vâng, hoàn toàn. Tôi nghĩ rằng nó đúng khi nói lên lợi ích tập thể thông qua việc tạo ra các không gian trong xã hội không chịu sự điều chỉnh của tư bản hay quyền lực chính trị, bạn biết không? Tương tự như tự do ngôn luận, không phải tất cả chúng ta đều có một số điều lớn mà chúng ta muốn thực hiện với quyền tự do ngôn luận của mình, nhưng chúng ta nhận ra rằng đó là một lợi ích tập thể.
JA : Vâng, chính xác. Và vì vậy tôi nghĩ sự riêng tư cảm thấy rất riêng biệt, và tác hại mà chúng ta đang nói đến thực sự là một tác hại xã hội. Nó không phải là nó không phải là một proxy tốt; Tôi sử dụng từ đó mọi lúc vì nó là một tốc ký và mọi người biết tôi đang nói về điều gì, đặc biệt là khi tôi đã viết một cuốn sách với tiêu đề đó. Nhưng tôi cảm thấy như nó không hoàn toàn đúng.
TP : Mặt khác của sự riêng tư là giám sát từ , đó chắc chắn là một từ bắt đầu trở nên phổ biến vào những năm 90 khi các camera giám sát được lắp đặt xung quanh các thành phố, và mọi người giống như, Oh Oh, bạn đang bị một kẻ nào đó theo dõi phía trước của một loạt các màn hình. Nhưng những màn hình đó đã biến mất, và anh chàng đó đã biến mất và hiện đang thất nghiệp vì tất cả những thứ đó đã được tự động hóa. Một khía cạnh khác của giám sát, tôi nghĩ, là nó đã được lịch sử gắn liền với các hình thức quyền lực nhà nước, và điều đó chắc chắn vẫn đúng. Nhưng cùng với đó là chủ nghĩa tư bản giám sát bây giờ , đó là cách bạn kiếm tiền từ khả năng thu thập các loại thông tin rất mật thiết.
JA : Vâng, tôi nghĩ giám sát là một từ tốt hơn một chút cho những gì chúng ta đang nói, nhưng vì ý nghĩa rất nhiều người chỉ coi đó là giám sát của chính phủ. Điều đó không bao gồm tất cả mọi thứ, và những gì nó cũng không bao gồm là tác dụng của nó. Giám sát chỉ là hành động theo dõi, nhưng nó đã làm gì cho xã hội, phải không? Nó làm gì cho bạn? Nó làm gì khi không có túi nơi bạn có thể có quan điểm bất đồng chính kiến, hoặc thử nghiệm tự trình bày theo những cách khác nhau? Điều đó giống như thế nào? Đó thực sự chỉ là một hình thức kiểm soát xã hội, và, như bạn đã nói, hướng tới sự phù hợp. Và đó là, tôi nghĩ, tại sao bản thân giám sát không phải là một từ đủ mạnh để mô tả nó.
TP : Bởi vì giám sát cũng bao hàm một loại thụ động từ phía người thực hiện giám sát, và điều đó không còn đúng nữa; đây là những hệ thống hoạt động
Ảnh chụp từ trên không của Văn phòng Trinh sát Quốc gia của Trevor Paglen. [Được ủy quyền bởi Báo cáo thời gian sáng tạo, 2013.]
Rh : hệ thống hoạt động nghĩa là gì?
TP : Ví dụ siêu đơn giản: Bạn đang lái xe trong ô tô của mình và bạn rẽ phải đèn đỏ bất hợp pháp và camera phát hiện ra rằng, ghi lại biển số xe của bạn và phát vé giao thông và không có người trong vòng lặp. Bạn có thể trừu tượng rằng việc bị từ chối việc làm dựa trên một số loại hệ thống thuật toán đang thực hiện lọc từ khóa trên sơ yếu lý lịch. Rất nhiều công việc bạn đang làm, Julia, là về việc này.
JA : Vâng, ý tôi là, sự giám sát chỉ là khởi đầu của vấn đề. Đó là về, một khi dữ liệu được thu thập, họ sẽ làm gì với nó? Càng ngày, họ càng đưa ra quyết định tự động về chúng tôi.
Và thật kỳ lạ, dường như những quyết định mà họ tự động hóa trước tiên là những quyết định mang tính quyết định cao nhất của con người. Hệ thống tư pháp hình sự đang sử dụng các hệ thống này để dự đoán khả năng bạn sẽ phạm tội trong tương lai. Hoặc có những hệ thống đang tìm hiểu xem bạn sẽ được thuê chỉ bằng cách quét sơ yếu lý lịch. Tôi nghĩ điều đó thật buồn cười bởi vì các hệ thống tự động mà hầu hết mọi người sử dụng có lẽ là bản đồ và những thứ đó thật tệ. Giống như một nửa thời gian họ đang bảo bạn đến sai địa điểm, nhưng chúng tôi vẫn như thế, tôi biết! Công cụ này là rất tuyệt vời; Chúng ta hãy sử dụng nó cho các quyết định thực sự cao về việc có nên tống người vào tù hay không!
TP : Hoặc giết chúng!
Rh : Tôi nghĩ rất nhiều lần mọi người nói rằng, ồ, tôi không làm gì sai cả. Lấy thông tin của tôi, bán cho tôi công cụ. Tôi không chế tạo bom trong tầng hầm của mình. Nhưng đó dường như chỉ là phần nổi của tảng băng chìm.
JA : Vâng, đó là một vị trí rất đặc quyền. Về cơ bản, những người nói điều đó với tôi là người da trắng. Số lượng những thứ bất hợp pháp trên thế giới này thực sự rất cao. Chúng tôi có rất nhiều luật lệ, và có một số bộ phận trong cộng đồng của chúng tôi, chủ yếu là người da nâu, những người phải chịu sự thi hành mạnh mẽ hơn nhiều đối với họ. Và vì vậy tôi nghĩ rằng cảm giác, tôi không làm gì sai cả thực sự là một canard. Bởi vì, tất nhiên, ngay cả khi bạn bị bắt làm việc đó, bạn sẽ thoát ra vì đó là cách xã hội tươi đẹp của chúng ta được thiết lập. Nhưng trên thực tế, mọi người đang theo dõi các nguồn cấp dữ liệu Twitter của Black Lives Matter, và tất cả những người của Ferguson, và cố gắng tìm bất cứ điều gì để đưa chúng vào. Và đó là những gì xảy ra với giám sát, bạn có thể nhờ ai đó làm bất cứ điều gì.
Khi tôi đang làm việc trên cuốn sách của mình, tôi đã đến thăm kho lưu trữ Stasi ở Berlin, nơi họ có các tài liệu mà Stasi lưu giữ cho công dân, và tôi đã yêu cầu hồ sơ công khai. Tôi đã nhận được một vài tệp thực sự được dịch và chúng trên trang web của tôi. Điều làm tôi ngạc nhiên là Stasi có quá ít, nhưng họ chỉ cần một số thứ nhỏ. Giống như một học sinh cấp ba này, anh ta đã bỏ qua lớp học một vài lần hoặc một cái gì đó, vì vậy họ đã đến nhà anh ta và giống như, Bạn nên trở thành một người cung cấp thông tin, nếu không chúng tôi sẽ trừng phạt bạn. Đó là tất cả về việc biến mọi người thành người cung cấp thông tin dựa trên một mảnh nhỏ của thứ gì đó họ có.
Và tôi nghĩ đó thực sự là sự giám sát: đó là về hiệu ứng làm lạnh, tự kiểm duyệt, nơi bạn không sẵn sàng thử bất cứ điều gì mạo hiểm. Có thể có những hậu quả rất mạnh mẽ, đặc biệt nếu bạn là thành viên của một nhóm mà họ muốn đàn áp.
Liên quan: Quyền riêng tư không phải là một sự trừu tượng
TP : Tôi không đồng ý theo nghĩa mà tôi nghĩ. . . Được rồi, Reyhan, bạn đang mang thai. Giả sử tôi có tất cả dữ liệu định vị địa lý của bạn và tôi biết rằng bạn đã ghé thăm một cửa hàng rượu vào một ngày nào đó. Tôi có bán thông tin đó cho nhà cung cấp bảo hiểm y tế của bạn không? Điều đó sẽ có hậu quả cho khả năng tiếp cận chăm sóc sức khỏe của bạn, hoặc có nghĩa là bạn có thể phải trả phí bảo hiểm cao hơn. Tôi nghĩ rằng nó không chỉ là một loại khung pháp lý; đó là một khuôn khổ về Quảng cáo Những nơi mà tôi có thể tận dụng thông tin để lấy tiền từ bạn, cũng như xác định xem bạn có trở thành một phần của hệ thống tư pháp hình sự hay không?
KHÔNG CHỈ TRUNG QUỐC
Rh : Đôi khi tôi gặp khó khăn khi tưởng tượng rằng tất cả những điều này đang xảy ra.
JA : Có vẻ như không thật. Trên thực tế, điều tôi thấy rất sốc là tôi cảm thấy như mình đã cố gắng vẽ ra cái nhìn bi quan nhất có thể trong năm 2014, và nó còn tệ hơn nhiều; nó tệ hơn nhiều so với tôi tưởng tượng Vì vậy, chúng ta hãy nhìn vào một điều đơn giản ở đất nước này, và sau đó là một điều ở Trung Quốc.
Ở đất nước này, những điểm số rủi ro mà tôi đã nói đến đang được sử dụng khi bạn bị bắt. Họ cho bạn điểm từ 1 đến 10, về khả năng bạn sẽ phạm tội trong tương lai và điều đó có thể xác định điều kiện bảo lãnh của bạn. Có phong trào lớn này trên toàn quốc, thay vì đưa người vào tù, những người có nguy cơ cao hơn, chỉ cần đeo chúng vào vòng đeo mắt cá chân điện tử. Vì vậy, về cơ bản, một quyết định tự động buộc ai đó phải có một màn hình GPS trên chúng mọi lúc. Đó là điều tôi thực sự không nghĩ sẽ xảy ra nhanh như vậy. Ba năm trước tôi đã có thể nói, N N Nah, đó là một bác sĩ da liễu nhỏ.
Bây giờ hãy nghĩ về Trung Quốc: Có một khu vực rất Hồi giáo, và chính phủ Trung Quốc đang cố gắng đàn áp vì họ nghĩ rằng tất cả họ đều là những kẻ khủng bố. Tôi chỉ cùng với người phụ nữ này từ Tổ chức Theo dõi Nhân quyền làm việc ở khu vực đó và tổng hợp tất cả thông tin về thiết bị giám sát nào họ đã mua trong khu vực đó và họ đang làm gì. Và họ đã xây dựng một chương trình tự động, về cơ bản là nếu bạn đến trạm xăng quá nhiều lần, hoặc bạn mua phân bón, hoặc bạn làm bất cứ điều gì đáng ngờ. Một cái gì đó bật lên nói rằng bạn có nguy cơ cao và họ đưa bạn đến trại cải tạo. Đó là một hệ thống tự động để xác định ai được gửi vào trại cải tạo . Và tôi giống như, Trời ơi, tôi không thể tin điều này xảy ra ngay bây giờ ; chúng ta thậm chí không nói về tương lai!
TP : Hệ thống điểm tín dụng công dân Trung Quốc nàyđã được trong tin tức một chút. Về cơ bản, các chương trình thí điểm, đang hoạt động trước khi triển khai quốc gia năm 2020, có thể giám sát mọi thứ bạn làm trên phương tiện truyền thông xã hội, cho dù bạn đi bộ hoặc trả hóa đơn muộn hay nói chuyện nghiêm túc về chính phủ, thu thập tất cả các điểm dữ liệu này và giao cho bạn một điểm công dân. Nếu bạn có một cái cao, bạn sẽ nhận được, như, giảm giá vé xem phim, và việc xin visa du lịch sẽ dễ dàng hơn, và nếu bạn có một cái thấp hơn, bạn sẽ có một khoảng thời gian thực sự tồi tệ. Nó đang tạo ra các cơ chế thực thi cực đoan, và tôi nghĩ rằng rất nhiều người trong chúng ta ở Mỹ nói rằng, ồ, đó là điều chỉ có thể xảy ra ở Trung Quốc vì họ có mối quan hệ khác nhau giữa nhà nước và nền kinh tế và một quan niệm khác về nhà nước quyền lực." Nhưng những điều chính xác tương tự đang xảy ra ở đây,
Rh : công dân Trung Quốc có biết về điều này không?
JA : Vâng.
Rh : Vì vậy, những điểm số này không phải là bí mật hoặc ngầm. . .
JA : Không, chúng có nghĩa là một hệ thống khuyến khích, phải không? Nó thực sự chỉ là một công cụ để kiểm soát xã hội; nó là một công cụ cho sự phù hợp, và có lẽ khá hiệu quả, phải không? Ý tôi là, bạn nhận được phần thưởng thực tế; nó rất Pavlovian. Bạn nhận được những điều tốt hoặc bạn không. Chỉ là các chính phủ chưa có công cụ chi tiết như vậy trước đây. Đã có những cách mà chính phủ có thể cố gắng kiểm soát công dân, nhưng thật khó để kiểm soát dân số! Những công cụ giám sát này thực sự là một phần của bộ máy kiểm soát xã hội.
Rh : dữ liệu tốt như thế nào
JA : Đó là điều: nó không thành vấn đề. Trước hết, tất cả các dữ liệu đều tệ, nhưng nó không thành vấn đề. Tôi đã hỏi nhà phân tích này từ Tổ chức Theo dõi Nhân quyền tại sao họ không đưa bất kỳ người ngẫu nhiên nào vào trại tạm giam, bởi vì nó thực sự có ý nghĩa như một sự răn đe khiến mọi người khác phải sợ hãi. Bạn không thực sự cần bất kỳ khoa học. Nhưng những gì họ nhận ra là họ thực sự đang cố gắng đạt được hành vi tốt, do đó, mặc dù phải trả tiền để xây dựng thuật toán này, điều mà không ai kiểm tra tính chính xác, nó tạo ra những khuyến khích tốt hơn. Mọi người sẽ hành động một cách nhất định.
Vì vậy, dữ liệu có thể là rác, nhưng mọi người sẽ nghĩ, thưa Oh, nếu tôi cố gắng làm những điều tốt, tôi sẽ giành chiến thắng. Tôi có thể chơi trò chơi hệ thống. Đó là tất cả về hấp dẫn ảo tưởng của bạn rằng bạn có một số kiểm soát. Điều này thực sự giống với cài đặt quyền riêng tư của Facebook. Nó được xây dựng để cung cấp cho bạn ảo giác về quyền kiểm soát. Bạn thích thú với những chiếc đồng hồ nhỏ bé của mình, và bạn thích, tôi rất bị khóa! Nhưng bạn không phải! Họ sẽ đề nghị nhà trị liệu của bạn là bạn của bạn và họ sẽ đưa bạn đến gặp bố mẹ bạn như một người đồng tính. Bạn không thể kiểm soát nó!
Rh : Tôi nghĩ rằng tôi có thói quen cá nhân xấu, bởi vì tôi gặp khó khăn khi tin rằng điện thoại của tôi thực sự cung cấp thông tin cho Google hoặc Facebook hoặc bất cứ nơi nào tôi đang ở. Tôi gặp khó khăn khi tin rằng ở một mức độ nào đó.
TP : Nó nói với bạn!
Rh : Nhưng điều đó tôi đủ quan trọng, ngay cả với tư cách là người tiêu dùng, đối với họ.
JA : Vâng, bạn không thực sự quan trọng với họ; Ý tôi là, họ cần tất cả mọi người. Đó là nhiều hơn về sự phàm ăn. Họ cần phải là một nơi mà các nhà quảng cáo đi đến, cần có thể nói rằng, chúng tôi biết mọi thứ về mọi người . Vì vậy, đó là sự thật, họ không ngồi ngó lơ trên tập tin Reyhan trừ khi bạn có ai đó ghét bạn ở đó, người có thể muốn xem qua tập tin đó. Nhưng đó là nhiều hơn về kiểm soát thị trường. Nó tương tự như sự kiểm soát của nhà nước theo nghĩa là, để giành chiến thắng, bạn cần phải là một nhà độc quyền. Đó thực sự là loại quy tắc kinh doanh. Và vì vậy, Google, Google và Facebook, họ đang trong một cuộc đua đến chết để biết mọi thứ về mọi người.
Đó là những gì họ cạnh tranh và đó là số liệu của họ. Bởi vì họ đến cùng một nhà quảng cáo và họ nói, không, mua với chúng tôi. Và các nhà quảng cáo cũng giống như, Vâng, bạn có thể đưa tôi đến bà bầu trên đường đến cửa hàng rượu không? Bởi vì đó là những gì tôi muốn. Và bất cứ ai có thể cung cấp điều đó, họ sẽ tham gia. Họ đang trong một cuộc đua để thu thập dữ liệu, giống như cách các công ty dầu khí chạy đua để có được các mỏ dầu khác nhau.
Liên quan: Quyền riêng tư không bị chết. Nó chỉ không được phân phối đều
TP : Một điều tôi muốn nhấn mạnh một lần nữa là chúng ta thường nghĩ về những điều này về cơ bản là các nền tảng quảng cáo. Đó không phải là quỹ đạo dài hạn của họ. Tôi nghĩ về họ như, trích xuất các nền tảng kiếm tiền từ cuộc sống của bạn.
JA : Cách hiện tại mà họ trích tiền là quảng cáo, nhưng họ sẽ biến thành tập tin đã biến thành trung gian, người giữ cửa. Đó là kinh doanh lớn nhất của tất cả. Bạn không thể nhận được bất cứ điều gì trừ khi bạn đi qua chúng tôi.
TP : Vâng, và bảo hiểm y tế, tín dụng. . .
JA : Đó là lý do tại sao họ muốn phá vỡ tất cả những điều đó, đó là ý nghĩa của nó.
GOOGLE CŨNG SẼ TRỞ THÀNH CÔNG TY BẢO HIỂM CỦA BẠN
Rh : vậy làm thế nào mà đi chơi Có giống như khi bạn đăng ký một dịch vụ và bạn có thể nhập email của bạn hoặc nhấn nút Facebook? Có phải đó là cách nó xảy ra?
JA : Chà, đó là cách nó đang diễn ra ngay bây giờ. Nhưng bạn có biết Amazon đã công bố chăm sóc sức khỏe, phải không? Chúng ta sẽ thấy nhiều hơn về điều đó. Chồng tôi và tôi đã nói chuyện gần đây về xe tự lái. Google cũng sẽ trở thành công ty bảo hiểm của bạn. Vì vậy, họ sẽ cần nhiều dữ liệu hơn về bạn, bởi vì họ sẽ phá vỡ bảo hiểm và chỉ cung cấp cho chính họ. Họ biết nhiều về bạn hơn bất cứ ai, vậy tại sao họ không nên mạo hiểm? Có rất nhiều cách mà con đường của họ sẽ đến, và thành thật mà nói, họ có lợi thế cạnh tranh thực sự bởi vì họ đã có sẵn kho dữ liệu đó.
Và sau đó, hóa ra, thật kỳ lạ, dường như không ai khác có thể xây dựng phần mềm tốt, do đó, cũng có rào cản công nghệ này để vào, điều mà tôi chưa hiểu rõ. Tôi nghĩ về nó như Ford: Thứ nhất, khi ông phát minh ra nhà máy, ông đã chạy một vài thập kỷ đó là những điều. Và sau đó mọi người xây dựng nhà máy, và bây giờ bạn có thể xây dựng một nhà máy từ một cái hộp. Vì vậy, tôi nghĩ rằng rào cản gia nhập sẽ biến mất. Nhưng ngay bây giờ, các công ty bảo hiểm, ngay cả khi họ có bộ dữ liệu của Google, Google thực sự sẽ không thể xây dựng phần mềm đủ tinh vi. Họ không có công nghệ AI để dự đoán rủi ro của bạn. Vì vậy, các công ty công nghệ này có hai lợi thế, một trong số đó có thể biến mất.
TP : Nhưng việc thu thập dữ liệu là một lợi thế lớn.
JA : Đó là một lợi thế lớn .
TP : Ý tôi là, rất nhiều hệ thống này đơn giản là không hoạt động trừ khi bạn có dữ liệu.
JA : Vâng, và đôi khi họ nói về nó như là dữ liệu đào tạo của họ, đó là tất cả dữ liệu mà họ thu thập và sau đó sử dụng để đào tạo các mô hình của họ. Và các mô hình của họ, theo định nghĩa, có thể đưa ra dự đoán tốt hơn vì họ có nhiều dữ liệu để bắt đầu. Vì vậy, bạn biết đấy, khi bạn xem các công ty này là độc quyền, một số người nghĩ về doanh thu quảng cáo. Tôi có xu hướng nghĩ về nó về các dữ liệu đào tạo. Có lẽ đó là những gì cần phải chia nhỏ, hoặc có thể nó phải là một tài nguyên công cộng, hoặc một cái gì đó, bởi vì đó là thứ khiến họ không thể cạnh tranh được.
Ảnh trên không của Cơ quan An ninh Quốc gia của Trevor Paglen. [Được ủy quyền bởi Báo cáo thời gian sáng tạo, 2013.]
Rh : họ sử dụng dữ liệu này tốt như thế nào Rất nhiều lần tôi đã rất ấn tượng với kết quả cuối cùng.
JA : Chà, đó là những gì xảy ra với các nhà độc quyền: họ trở nên lười biếng. Đó thực sự là một dấu hiệu của sự độc quyền.
TP : Yeah, cơ quan báo cáo tín dụng của bạn tốt như thế nào?
JA : Đó là rác!
Rh : hoàn toàn Tất cả dường như là rác, bạn biết không? Facebook liên tục điều chỉnh những gì họ chỉ cho tôi và nó luôn sai.
JA : Phải. Đó là lý do tại sao gần đây có một thông báo, như, Oh Oh, họ sẽ thay đổi nguồn cấp tin tức . Họ không quan tâm những gì trong nguồn cấp tin tức. Không thành vấn đề, bạn không phải là khách hàng. Họ không muốn bạn rời đi, nhưng bạn cũng không có nơi nào để đi, vì vậy. . .
Rh : phải Và nó giống như Hotel California: Bạn sẽ không bao giờ thực sự có thể rời đi.
JA : Vâng, đúng!
Rh : Vì vậy, họ tham gia vào nỗ lực dài hạn to lớn này để trở thành người gác cổng giữa bạn và bất kỳ dịch vụ nào bạn cần, bất cứ lúc nào bạn cần nhập tên của mình ở bất cứ đâu.
JA : Ý tôi là, thực sự, người gác cổng giữa bạn và tiền của bạn. Giống như, bất cứ điều gì cần thiết để thực hiện giao dịch đó.
Rh : hoặc để lấy tiền của người khác cho họ
JA : Vâng, chắc chắn, thông qua bạn.
KHI CHỦ NGHĨA TƯ BẢN GIÁM SÁT GẶP TƯ PHÁP HÌNH SỰ
TP : Chúng ta cũng không hoàn toàn bỏ qua nhà nước, bởi vì hồ sơ có thể được trát hầu tòa, thường không có lệnh. Tôi nghĩ về Ferguson rất nhiều, về việc nó là một hệ thống thành phố săn mồi đang ban hành, giống như, hàng chục ngàn lệnh bắt giữ đối với một dân số, như, nhiều người, và toàn bộ cơ sở hạ tầng được thiết kế để chỉ là con mồi toàn dân. Khi bạn kiểm soát các loại cơ sở hạ tầng lớn đó, về cơ bản đó là mô hình.
Rh : và đó là rất mạnh mẽ Làm thế nào để cơn khát tư nhân hóa của chính quyền hiện tại chơi vào loại điều này? Bởi vì tôi có thể tưởng tượng ra một tình huống mà bạn muốn có thẻ ID quốc gia, và ai là người phục vụ tốt hơn Facebook?
JA : Ồ, nỗ lực đó đang được tiến hành. Thực tế, có một nhóm làm việc quốc gia đã diễn ra được 5 năm, thực ra, đó là tìm kiếm khu vực tư nhân để phát triển các cách để xác thực danh tính và các công ty công nghệ rất tham gia vào đó. Điều thú vị về chính quyền này là thú vị, bởi vì sự thất bại của họ đối với nhân viên ở bất kỳ vị trí nào, có một số. . .
Rh : Một lớp lót bạc!
JA : Vâng, một số trong những nỗ lực này thực sự bị đình trệ! Vì vậy, đó thực sự có thể là một chiến thắng, tôi không biết. Nhưng các công ty luôn quan tâm đến việc cung cấp bản sắc kỹ thuật số đó.
TP : Chúng ta không cần phải nhìn vào cấp liên bang. Bạn có thể nhìn vào cấp thành phố, trong điều kiện các thành phố hợp tác với các tập đoàn để phát hành vé giao thông. Hoặc nhìn vào Google trong trường học. Tôi nghĩ rằng, với việc xây dựng các cơ sở hạ tầng này, có một loại tư nhân hóa thực tế đang xảy ra. Apple hoặc Google sẽ đến các thành phố; họ sẽ cung cấp máy tính cho các trường học của bạn, nhưng họ sẽ thu thập tất cả dữ liệu từ tất cả các sinh viên sử dụng nó, et cetera. Sau đó, họ sẽ sử dụng dữ liệu đó theo những cách khác hợp tác với các thành phố để tính phí cho các dịch vụ mà trước đây là dịch vụ công cộng.
Một lần nữa, có rất nhiều ví dụ về vấn đề này với việc kiểm soát các giải pháp cảnh giác. Công ty này có dữ liệu vị trí và đọc biển số xe sẽ nói rằng, Được rồi, chúng tôi có cơ sở dữ liệu về biển số xe này và chúng tôi sẽ đính kèm dữ liệu này vào cơ sở dữ liệu thành phố của bạn để bạn có thể sử dụng phần mềm của chúng tôi để xác định tất cả những người đó là ai nợ bạn tiền, những người có lệnh bắt giữ và án phí xuất sắc. Và chúng tôi sẽ thu phí dịch vụ về điều đó. Đó là mô hình kinh doanh. Tôi nghĩ đó là tầm nhìn của đô thị tương lai trong mọi lĩnh vực.
JA : Bạn biết đấy, đó là một ví dụ tuyệt vời bởi vì Vigilant thực sự là như vậy. . . về cơ bản, đó là repo men. Vì vậy, về cơ bản nó bắt đầu như săn mồi. Tất cả những người đàn ông repo này đã lái xe quanh các thành phố suốt đêm, tìm kiếm những chiếc xe của mọi người mà các đại lý đang thu hồi vì mọi người không trả tiền. Sau đó, họ nhận ra, Oh Oh, chính phủ thực sự sẽ yêu thích một cơ sở dữ liệu quốc gia về biển số xe của mọi người, vì vậy họ bắt đầu quét bằng các đầu đọc biển số tự động này trên ô tô của họ.
Vì vậy, những người đàn ông repo trên khắp đất nước đi ra ngoài mỗi đêm, tôi nghĩ đó là Baltimore, nơi đối thủ của Vigilant có bốn mươi chiếc xe đi ra ngoài mỗi đêm, chụp ảnh mọi nơi đỗ xe và đưa họ vào cơ sở dữ liệu. Và sau đó họ xây dựng những thứ này trên toàn quốc, và họ giống như, Oh Oh, DHS, bạn có muốn biết một chiếc xe hơi ở đâu không? và sau đó họ trả giá cho một hợp đồng . Và vì vậy, bạn thêm lớp chính phủ và sau đó bạn thêm lại phần săn mồi của nó, đó là thực sự ngoạn mục.
Rh : Nhưng nếu bạn nói chuyện với một giám đốc điều hành tại Vigilant, họ sẽ như thế nào, vấn đề là gì? Chúng tôi chỉ cung cấp một loại dịch vụ.
JA : Vâng, tôi đã dành rất nhiều thời gian với các đối thủ cạnh tranh của họ ở Chicago, đã gặp một nhóm những người đàn ông repo rất tốt bụng nói rằng, Hãy nhìn, chúng tôi đang làm việc của Chúa. Ý tôi là, đây là những người xấu, và chúng ta phải bắt họ. Rồi tôi nói, bạn có thể tra cứu xe của tôi không? Và bùng nổ , họ nhấn nút, và nó ở ngay trên đường trước nhà tôi! Tôi đã như thế, thánh chết tiệt.
TP : Chà.
JA : Điều đó thật đáng sợ.
Rh : thật điên rồ Đó là kiểu mà một lần nữa, tôi sẽ như thế, không ai biết xe của tôi ở đâu; Tôi không biết xe của tôi ở đâu! Họ không chết tiệt khi tìm nó, bạn biết không?
JA : Phải.
TP : Nhưng bạn có thể đưa nó đi xa hơn. Hãy nghĩ về thế hệ tiếp theo của xe Ford. Họ biết chính xác nơi chiếc xe của bạn mọi lúc, vì vậy bây giờ Ford trở thành một công ty dữ liệu lớn cung cấp dữ liệu định vị địa lý.
Rh : Và bạn thậm chí sẽ không sở hữu chiếc xe của mình vì phần mềm của nó bây giờ là tài sản của nhà sản xuất ô tô.
TP : Nó quay trở lại vấn đề về việc bạn sẽ đến các cửa hàng rượu, cho dù bạn đang tăng tốc. Ngày mai, Ford có thể lập một chương trình cho cơ quan thực thi pháp luật nói rằng, Mỗi khi ai đó tăng tốc, bất cứ khu vực nào thuộc thẩm quyền của bạn, bạn có thể cấp cho họ một vé nếu bạn đăng ký. . . " Bạn biết? Ý tôi là, đây là một chương trình hợp tác thực thi giao thông đầy đủ.
JA : Và một điều tôi chỉ muốn nói, bởi vì tôi phải nêu vấn đề về thủ tục tố tụng ít nhất một lần trong bất kỳ cuộc trò chuyện nào như thế này. Chồng tôi và tôi chiến đấu về vấn đề này mọi lúc: anh ấy thích, tôi muốn họ biết rằng tôi lái xe an toàn vì tôi an toàn và tôi rất vui khi có GPS trong xe, và tôi thật tuyệt vời, và tôi sẽ được hưởng lợi từ hệ thống này. Nhưng vấn đề là, khi bạn nghĩ về máy ảnh đèn đỏ và vé tự động, vốn đã trở nên khá phổ biến, đó thực sự là một vấn đề đúng quy trình. Làm thế nào để bạn chiến đấu với nó? Nó có lẽ sẽ rất khó để làm. Giống như, chúng ta sẽ phải cài đặt camera bảng điều khiển giám sát chính mình để có một số loại bảo vệ chống lại nhà nước giám sát chúng ta, hoặc bất cứ ai đang giám sát chúng ta?
Tôi nghĩ rằng rất nhiều vấn đề được nêu ra bởi loại điều này thực sự là về, và tôi ghét phải nói nó, nhưng quyền cá nhân của chúng tôi. Giống như về thực tế là bạn không thể chiến đấu với các hệ thống này.
TP : Đó là sự thật. Có rất nhiều quyền thực tế chúng ta có vì hệ thống quyền lực không hiệu quả. Sử dụng một khuôn khổ của công lý hình sự trong đó đây là luật, đây là giới hạn tốc độ và nếu bạn vi phạm rằng bạn vi phạm luật thì đó không thực sự là cách chúng ta sống trong lịch sử.
JA : Phải.
TP : Và điều đó rất dễ thay đổi với các loại hệ thống này.
Rh : Vâng, bởi vì sau đó nếu bạn đang nhắm mục tiêu ai đó, đó là nơi dữ liệu được vũ khí hóa. Ngoài ra, có rất nhiều sự bất tài cấp bậc trong công lý hình sự, và trong tất cả các hệ thống của con người. Có lẽ ân sủng cứu rỗi của nó là con người chỉ có thể xử lý rất nhiều thứ cùng một lúc.
TP : Tôi nghĩ điều buồn cười là các công đoàn cảnh sát phản đối mạnh mẽ nhất việc lắp đặt những thứ như máy ảnh đèn đỏ vì họ muốn điều đó không hiệu quả.
Rh : Vâng, và họ nói, chúng tôi đang thực hiện các cuộc gọi phán xét.
JA : Ý tôi là có một câu chuyện điên rồ, bạn biết những người lái xe tải, phải không? Các tài xế xe tải đang được giám sát bởi chủ nhân của họ. Rất nhiều người trong số họ là người tự do, nhưng có những quy tắc liên bang về việc bạn có thể lái xe bao nhiêu giờ. Đây là một trong những ví dụ kinh điển giống như phúc lợi xã hội, nơi bạn thực sự không thể ăn đủ với số tiền họ đưa cho bạn, nhưng việc làm thêm là bất hợp pháp.
Tương tự như vậy, đối với những người lái xe tải, số giờ bạn cần lái xe để kiếm tiền nhiều hơn số giờ bạn được phép lái xe. Và để đảm bảo tài xế xe tải không vượt quá những dặm, họ đã thêm tất cả các màn hình GPS cho xe tải, và tài xế xe tải đang tham gia vào các chiến lược countersurveillance khổng lồ, giống như, lăn ngược hàng dặm, và làm tất cả những công cụ này điên. Và có một điều tuyệt vời vào một ngày tại Newark, một hoặc hai năm trước, nơi tháp điều khiển bị mất liên lạc với các máy bay tại Sân bay Newark, và hóa ra đó là vì một người lái xe tải. Anh ấy đang lái xe ở sân bay và anh ấy có khả năng giám sát mạnh mẽ như vậy đối với màn hình GPS của anh ấy đến nỗi anh ấy làm gián đoạn giao thông hàng không!
TP : Chà!
Rh : hoang dã Chúa ơi, một thập kỷ trước tôi đã ở BART, và tôi không bao giờ làm điều này, nhưng tôi đã nói chuyện với anh chàng bên cạnh tôi và anh ấy là một tài xế xe tải. Anh ấy đã nói với tôi về sự giám sát của nó vào thời điểm đó. Anh ấy giống như, điều này đã xảy ra rồi. Đây là 10 năm trước! Ông cho biết những loại xe tự lái đầu tiên sẽ là xe tải.
JA : Vâng, đúng vậy, họ sẽ trở thành xe tải.
Rh : Tôi chỉ nhớ ra khỏi BART và trở nên như thế, nếu vậy đó là một lời sấm truyền hay gì đó?
JA : Những người lái xe tải đang mang đến cho chúng ta những tin tức từ tương lai.
LÀM THẾ NÀO CHÚNG TA THUÊ NGOÀI NIỀM TIN CHO CÁC CÔNG TY MÀ CHÚNG TA KHÔNG TIN TƯỞNG
Rh : Vì vậy, cuộc trò chuyện này đang được đóng khung như là sự kết thúc của niềm tin, nhưng chúng ta có tin tưởng không?
JA : Tôi không chắc là tôi đồng ý với việc chấm dứt sự tin tưởng. Tôi đang xem điều này như là một sự thuê ngoài của niềm tin ngay bây giờ. Vì vậy, về cơ bản, tôi nghĩ rằng trong cuộc tìm kiếm hiệu quả và kiểm soát vô tận này, chúng tôi đã chọn ăn và đôi khi tôi nghĩ rằng đó là một điều tốt để tin tưởng vào dữ liệu qua các tương tác của con người. Chúng ta đang trong cuộc tranh luận lớn này, ví dụ, về tin tức giả mạo. Chúng tôi đã quyết định đó là tất cả vấn đề của Facebook. Họ cần xác định cái gì là thật và cái gì không. Tại sao chúng tôi thuê ngoài sự tin tưởng của tất cả những gì có thật trên thế giới, tất cả sự thật, vào Facebook? Hoặc với Google, với thuật toán tin tức? Nó không có nghĩa gì cả.
Và do đó, trong quá trình tổng hợp dữ liệu, bằng cách nào đó chúng tôi cũng đã cho đi rất nhiều số liệu về niềm tin của mình, và đó là một phần vì các công ty này có quá nhiều dữ liệu và họ tạo ra một trường hợp mạnh mẽ đến mức họ có thể làm điều đó với toán học, và họ sẽ giành được nó với AI, họ sẽ mang đến cho chúng ta những dự đoán hoàn hảo.
Điều tôi thực sự quan tâm là thực tế là chúng tôi đã phá vỡ hệ thống niềm tin của con người mà chúng tôi hiểu. Các nghiên cứu cho thấy rằng khi bạn nhìn vào một người, bạn sẽ thiết lập niềm tin với họ, giống như, trong một phần nghìn giây. Và bạn có thể nói với những người không đáng tin ngay lập tức. Bạn thậm chí không thể nói rõ nó; bạn chỉ cần biết Nhưng trực tuyến và thông qua dữ liệu, chúng tôi không có các hệ thống đó, vì vậy thật dễ dàng để tạo ra các công cụ giả mạo trực tuyến và chúng tôi không biết cách xây dựng một hệ thống đáng tin cậy. Đó là điều thú vị nhất đối với tôi về thời điểm chúng ta ở.
Tôi nghĩ rằng chúng ta đang ở một thời điểm mà chúng ta có thể lấy lại nó. Chúng ta có thể nói, Đây là những gì báo chí là, và phần còn lại của những thứ đó không phải là. Hãy khẳng định những gì đáng tin cậy. Chúng ta đã luôn có người gác cổng thông tin, phải không? Các giáo viên sẽ nói, hãy đọc cuốn bách khoa toàn thư này, đó là nơi có sự thật. Bây giờ các con tôi về nhà và chỉ cần tìm kiếm mọi thứ trên internet. Chà, đó không phải là cách đúng đắn để làm điều đó. Tôi nghĩ rằng chúng ta đang ở giai đoạn mà chúng ta chưa tìm ra cách thiết lập niềm tin trực tuyến và chúng ta đã gia công nó cho các công ty lớn, những người không có lợi ích của chúng ta.
RH : Về “sự kết thúc của niềm tin,” những gì không cảm giác đe dọa hoặc giá trị tạo ra hành động tập thể xung quanh?
TP : Đối với tôi, đó là khả năng của cơ sở hạ tầng, cho dù là riêng tư hay chính sách, để có thể truy cập vào những khoảnh khắc trong cuộc sống hàng ngày của bạn vượt xa những gì họ có khả năng 20 năm trước. Đó không phải là một sự thay đổi về hiện vật, đó chỉ là khả năng vốn và cảnh sát thực sự hóa cuộc sống theo những cách mở rộng hơn nhiều.
Rh : Cả hai bạn đang tham gia vào công việc cố gắng làm cho công cụ này hiển thị trên mạng và rất khó. Các công ty không muốn bạn nhìn thấy nó. Trevor, rất nhiều công việc của bạn, là về công cụ nội tạng, và công việc của bạn, Julia, đã nói về việc, chúng tôi đã thử nghiệm các thuật toán này, chúng tôi có thể chỉ cho bạn cách Facebook chọn hiển thị một công cụ 25 tuổi quảng cáo việc làm và một người khác 55 tuổi. Bạn ước gì bạn có thể cho mọi người thấy?
TP : Có những giới hạn rất rõ ràng về chính trị làm cho những điều này hiển thị. Vâng, chắc chắn, đó là bước một, và nó hữu ích vì nó phát triển vốn từ vựng mà bạn có thể sử dụng để có một cuộc trò chuyện. Công việc mà bạn làm, Julia, tạo ra một từ vựng để chúng tôi có thể nói về mối quan hệ giữa Facebook và quy trình do chúng tôi không có từ vựng, thực sự, thậm chí còn có một cuộc trò chuyện dễ hiểu về trước đây.
Tôi nghĩ rằng đó chỉ là một phần của một dự án lớn hơn nhiều, nhưng bản thân nó không làm gì cả. Đó là lý do tại sao chúng ta phải phát triển một ý thức khác về công dân, thực sự. Một ý thức có ý thức hơn về những phần trong cuộc sống hàng ngày của chúng ta, chúng ta muốn tuân theo các loại cơ sở hạ tầng này, và chúng ta không. Có những thứ tốt mà bạn có thể làm, ví dụ, với trí tuệ nhân tạo, như khuyến khích hiệu quả năng lượng. Vì vậy, tôi nghĩ rằng chúng ta cần phải nói rằng, Okay Được rồi, đây là những điều mà chúng tôi muốn tối ưu hóa và đây là những điều mà chúng tôi không muốn tối ưu hóa. Không nên phụ thuộc vào vốn, và cảnh sát, và tùy thuộc vào nhà nước an ninh quốc gia để quyết định những tiêu chí tối ưu hóa đó sẽ là gì.
CÓ CHUYỆN GÌ VỚI AI VẬY?
JA : Tôi tin tưởng mạnh mẽ rằng để giải quyết vấn đề, bạn phải chẩn đoán nó và chúng tôi vẫn đang trong giai đoạn chẩn đoán điều này. Nếu bạn nghĩ về sự thay đổi của thế kỷ và công nghiệp hóa, chúng ta đã biết, 30 năm lao động trẻ em, thời gian làm việc không giới hạn, điều kiện làm việc tồi tệ, và phải mất rất nhiều nhà báo muckraking và vận động để chẩn đoán vấn đề và có một số hiểu biết về những gì nó đã được, và sau đó các hoạt động để có được luật thay đổi.
Tôi cảm thấy như chúng ta đang trong một công nghiệp hóa thông tin dữ liệu thứ hai. Tôi nghĩ rằng một số người gọi nó là tuổi máy thứ hai. Chúng ta đang trong giai đoạn thức dậy từ sự phấn khích và phấn khích khi được tiếp cận với công nghệ trong tầm tay mọi lúc. Đó thực sự là 20 năm qua của chúng tôi, sự hưng phấn đó, và bây giờ chúng tôi giống như, Who Whoa, có vẻ như có một số nhược điểm. Tôi thấy vai trò của mình là cố gắng làm rõ nhất có thể những nhược điểm là gì, và chẩn đoán chúng thực sự chính xác để chúng có thể giải quyết được. Đó là công việc khó khăn, và nhiều người cần phải làm điều đó. Nó ngày càng trở thành một lĩnh vực, nhưng tôi không nghĩ rằng chúng ta đang ở đó.
Một điều chúng tôi thực sự chưa giải quyết: Nghe có vẻ rất hay, nhưng chúng tôi chưa nói về việc tẩy não. Sự thật là con người rất dễ mắc bệnh. Chúng ta chưa bao giờ ở trong một thế giới nơi con người có thể tiếp xúc với mọi ý tưởng khủng khiếp trong vũ trụ. Có vẻ như, từ những gì bạn thấy ngoài kia, mọi người khá dễ bị thuyết phục bởi những thứ khá ngu ngốc, và chúng ta không biết đủ về điều đó, tâm lý não bộ đó. Điều thú vị là các công ty công nghệ đã tuyển dụng một số người giỏi nhất trong lĩnh vực đó, và do đó, có một chút lo lắng rằng họ có thể biết nhiều hơn các tài liệu học thuật được trình bày.
Rh : thật điên rồ
JA : Tôi biết, tôi ghét nói tẩy não . Có lẽ có một từ tốt hơn cho nó. Thuyết phục nhận thức hoặc một cái gì đó.
Rh : Hoặc chỉ hiểu con người là động vật và chúng ta đang nhận được những tín hiệu động vật này.
JA : Vâng, đúng rồi. Ý tôi là, chúng ta có những kinh tế học hành vi. Điều đó đã dẫn một chút xuống đường, nhưng họ đã không đi xa như những gì bạn thấy với vòng xoáy của các công cụ khuyến nghị, ví dụ, trên Facebook, nơi bạn tìm kiếm một thứ liên quan đến vắc-xin và bạn đã dẫn xuống từng lý thuyết âm mưu chống vaxx và chemtrails, và cuối cùng bạn uống nước thô ra khỏi cống vào cuối của nó.
Rh : Phải, bạn chi 40 đô la tại một cửa hàng tạp hóa Rainbow ở San Francisco để mua nước thô của bạn.
JA : Đó là một con đường tuyệt vời. Mọi người trở nên cực đoan thông qua những loại điều này và chúng ta không hiểu đủ về các biện pháp đối phó.
Rh : Vâng, điều đó thực sự đáng sợ. Các bạn có tương tác với những người trẻ tuổi? Họ có cho bạn cảm giác hy vọng không?
JA: Con gái tôi thật tuyệt vời. Cô ấy 13. Tôi thực sự có hy vọng lớn cho giới trẻ bởi vì cô ấy thực sự chỉ nói chuyện trên Snapchat, vì vậy cô ấy hoàn toàn chìm đắm vào mọi thứ. Và tính cách công khai của cô ấy rất tích cực và tuyệt vời. Cô ấy, giống như, năm bức ảnh trên Instagram của cô ấy, được quản lý chặt chẽ, và tất nhiên, cô ấy có năm Instagram khác nhau cho các vòng tình bạn khác nhau. Thật ấn tượng! Ý tôi là nó tốn rất nhiều thời gian và tôi buồn cho cô ấy rằng cô ấy phải dành thời gian đó, bởi vì ở tuổi đó, tất cả những gì tôi mặc là màu hồng và màu ngọc lam trong hai năm liền và không có tài liệu nào về nó. Giống như, không có gì. Đó là chiều cao của Esprit. Và tôi chỉ có thể nói với bạn điều đó, và bạn sẽ không bao giờ nhìn thấy nó. Cô ấy sẽ luôn luôn có con đường đó, đó là một người lập dị,
Rh : vâng Tôi luôn bị cuốn hút bởi thói quen vệ sinh máy tính của thanh thiếu niên.
JA : Tôi nghĩ rằng họ tốt hơn người lớn '.
Rh : tôi tò mò về công cụ AI Có rất nhiều sự cường điệu xung quanh AI, nhưng tất cả những gì tôi thực sự thấy về nó là những hình ảnh sai lệch trên Reddit hoặc một cái gì đó. Tôi thích, chúng tôi đang huấn luyện chúng để nhận ra hình ảnh của những chú chó, bạn biết không? Mục tiêu cuối cùng là gì? Là công nghệ này sẽ định hình mạnh mẽ tương lai của chúng ta theo cách đáng sợ và ẩn giấu? Hoặc là rất nhiều công việc, rất nhiều tiền và rất nhiều thời gian cho một kết quả mà dường như, thẳng thắn, không ấn tượng?
TP : Vâng, có những bức ảnh bị lỗi trên Facebook và Reddit và đó là thứ mà những người như chúng tôi chơi với nó. Đó không thực sự là những gì đang diễn ra dưới mui xe. Đó không phải là những gì thúc đẩy các công ty.
JA : Tôi muốn chúng tôi sao lưu một chút vì AI đã được định nghĩa quá hẹp. AI từng có nghĩa là tự động ra quyết định. Sau đó, gần đây nó được định nghĩa là học máy. Học máy đang ở giai đoạn đầu, vì vậy bạn thấy rằng họ đã phạm sai lầm. Google mô tả khuôn mặt đen là khỉ đột vì chúng có dữ liệu huấn luyện [thiên về chủng tộc]. Nhưng trên thực tế, mối đe dọa của AI, đối với tôi, rộng hơn là phần học máy của nó. Mối đe dọa thực sự là ý tưởng về việc trao niềm tin và ra quyết định cho các chương trình mà chúng tôi đã đưa ra một số quy tắc và thả lỏng. Và khi chúng tôi đưa những quy tắc đó vào, chúng tôi đưa những thành kiến của mình vào. Vì vậy, về cơ bản, chúng tôi đã tự động hóa những thành kiến của mình và khiến chúng không thể giải thích được. Bạn không có quá trình do nữa để chiến đấu chống lại những thành kiến.
Một điều thực sự quan trọng là chúng ta đang tiến vào một thế giới nơi một số người bị máy móc đánh giá, đó là người nghèo và dễ bị tổn thương nhất, và một số người bị con người đánh giá, và đó là người giàu. Và về cơ bản, chỉ có một số người được sắp xếp theo AI kèm theo hoặc bất cứ thứ gì chúng ta gọi là: thuật toán, quyết định tự động, và sau đó những người khác có thể theo dõi nhanh. Nó giống như TSA PreCheck.
Liên quan: Một loại thuế khác cho người nghèo: giao dịch quyền riêng tư để sinh tồn
TP : Một bài báo xuất hiện báo cáo rằng Tesco, nhà tuyển dụng tư nhân lớn nhất của Vương quốc Anh, sử dụng AI càng nhiều càng tốt trong quá trình tuyển dụng. Trong khi chiều nay tôi phải tham gia một ủy ban tuyển dụng giám đốc mới của tổ chức chúng tôi: đó là tất cả mọi người.
JA : Vâng, đúng, chính xác. Nó gần giống như hai thế giới riêng biệt. Và đó là điều tôi nghĩ là đáng lo ngại nhất. Tôi đã viết về những thành kiến trong công nghệ của AI, nhưng vấn đề là, những thành kiến đó chỉ nằm trong nhóm những người bị đánh giá bởi nó, vốn đã là một tập hợp con.
TP : Bạn tôi đã có một câu nói vui. Chúng tôi đã nói về điều này và cô ấy nói, Sự kỳ dị đã xảy ra: Nó được gọi là chủ nghĩa mới.
JA: Ồ vâng, đó là câu nói hay nhất mọi thời đại. Tôi sẽ nói điều này, chỉ vì tôi muốn được ghi nhận về nó: Tôi thực sự không có kiên nhẫn cho các cuộc thảo luận về sự kỳ dị bởi vì những gì họ làm chỉ là để thực sự rõ ràng về nó, đó là di chuyển quả bóng ở đây, để bạn không được phép quan tâm đến bất cứ điều gì xảy ra ngay bây giờ trong cuộc sống thực. Họ giống như vậy, Bạn phải đợi cho đến khi robot giết người lo lắng, và bạn không được phép lo lắng về những gì đang xảy ra với phân phối phúc lợi, và phân loại 'người nghèo' từ 'người nghèo xứng đáng' , 'Chỉ - đó thực sự là tất cả những hệ thống tự động đó: ý tưởng này có một số người đáng bị nghèo và một số người không. Về mặt đạo đức, đó đã là một cấu trúc sai, nhưng sau đó chúng tôi đã tự động hóa các quyết định đó để chúng không thể bị phá hủy.
Rh : Vì vậy, bạn có thể đi qua toàn bộ hệ thống và không bao giờ nhìn thấy một con người, nhưng tất cả các thành kiến của con người đã được nhúng rõ ràng.
JA : Vâng, có một cuốn sách tuyệt vời về cuốn Tự động bất bình đẳng của Virginia Eubanks mà tôi rất khuyến khích.
OPSEC CÁ NHÂN
Rh : hai bạn có thể nói một chút về vệ sinh an ninh cá nhân của bạn không?
TP : Chà, mọi người luôn như vậy, chúng tôi chọn cung cấp dữ liệu của mình cho Google. Không, chúng tôi không. Nếu bạn muốn có công việc của bạn, nếu bạn muốn có công việc của tôi, bạn phải sử dụng các thiết bị này. Ý tôi là, đó chỉ là một phần của cuộc sống trong xã hội, phải không?
JA : Đúng.
TP : Tôi có một người làm việc cho tôi, người không chọn, và đó là một vấn đề đau đầu hoàn toàn, theo nghĩa đen là toàn bộ studio phải tuân theo người này sẽ không có điện thoại thông minh. Điều đó đáng giá bởi vì họ thực sự tài năng, nhưng đồng thời, tại bất kỳ công ty nào khác, hãy quên nó đi. Đây là một phần của cơ sở hạ tầng hàng ngày của chúng tôi mà bạn không có khả năng cá nhân để chọn sử dụng chúng hay không. Ngay cả khi bạn không sử dụng Facebook, họ vẫn có công cụ của bạn.
Liên quan : Nếu bạn coi trọng quyền riêng tư của mình, hãy chuyển sang Tín hiệu làm ứng dụng nhắn tin của bạn ngay bây giờ
JA : Vâng, tôi đồng ý. Tôi không muốn cho ấn tượng rằng có một số sự lựa chọn. Lý do tôi viết cuốn sách của mình từ tài khoản của người đầu tiên cố gắng từ chối tất cả những điều này là để cho thấy rằng nó không hoạt động. Và tôi không chắc mọi người đều có bức ảnh đó, vì vậy tôi muốn nói rõ điều đó. Tôi thực hiện các biện pháp nhỏ ở đây và xung quanh các góc, nhưng, không, tôi sống ở thế giới, và đó là cái giá của cuộc sống trên thế giới hiện tại. Tôi muốn kết thúc lưu ý rằng đây là một vấn đề tập thể mà bạn không thể giải quyết riêng lẻ.
Rh : Đúng, như, tải xuống Signal rất tuyệt, nhưng nó sẽ không giải quyết được các vấn đề lớn hơn.
TP : Chính xác. Tôi nghĩ rằng một vấn đề thực sự quan trọng trong cuộc trò chuyện này là các vấn đề này trong lịch sử đã được nói rõ ở quy mô của cá nhân, và điều đó không có ý nghĩa gì với cơ sở hạ tầng hiện tại mà chúng ta đang sống.
JA : Phải. Nhưng hãy tải xuống Tín hiệu.
Nhận xét
Đăng nhận xét