青岛圈|青岛旅游论坛 - Powered by Discuz! Board

标题: 美军担心军事机器人程序变异可能毁灭世界 [打印本页]

作者: admin 时间: 2009-2-19 18:17 标题: 美军担心军事机器人程序变异可能毁灭世界

毫无疑问，未来战争中，自动机器人士兵将成为作战的绝对主力。但是美国海军研究室近日在关于机器人士兵的研究报告《自动机器人的危险、道德以及设计》中，对军方使用机器人提出警告，建议为军事机器人设定道德规范。研究人员认为，必须对军事机器人提前设定严格的密码，否则整个世界都有可能毁于他们的钢铁之手。

机器人程序可能发生变异

报告中表示，为军事机器人设定道德规范是一项严肃的工作，人类必须正视快速发展的机器人，它们足够聪明，甚至最后可能展示出超过现代士兵的认知优势。
帕特里克·林博士在报告中表示：“现在存在一个共同的误解：认为机器人只会做程序中规定它们做的事情。可不幸地是，这种想法已经过时了，一个人书写和理解程序的时代已经一去不复返了。”林博士说，实际上，现在的程序大都是由一组程序师共同完成的，几乎没有哪个人能够完全理解所有程序。因此，也没有任何一个人能够精确预测出这些程序中哪部分可能发生变异。
如何能够保护机器人士兵不受恐怖分子、黑客的袭击或者出现软件故障呢？如果机器人突然变得狂暴，谁应该负责呢，是机器人的程序设计师还是美国总统？机器人应该有“自杀开关”吗？林暗示说，唯一解决这些问题的办法就是提前为机器人设定“密码”，包括伦理道德、法律、社会以及政治等因素。

警告程序师不要急于求成
报告还指出，现今美国的军事机器人设计师往往急于求成，常常会将还不成熟的机器人技术急匆匆推入市场，促使人工智能的进步在不受控制的领域内不断加速发展。更糟糕的是，目前还没有一套控制自动系统出错的有效措施。如果设计出现错误，足以让全人类付出生命的代价。
设计师的这种心理原因可能与美国国会的命令有关。美国国会规定：到2010年之前，三分之一的“纵深”打击行动必须由机器人完成；到2015年前，三分之一的地面战斗将使用机器人士兵。

“机器人三定律”
事实上，一个简单的伦理密码，比如“机器人三定律”早在1950年就已经出台，但它们还不足以控制自动机器人的伦理行为。“机器人三定律”是阿西莫夫最重大的科幻理论贡献，他在名著《我，机器人》中写道：
一、机器人不得伤人或看见有人受伤却袖手旁观；
二、除非违背第一定律，机器人必须服从人的命令；
三、除非违背第一及第二条定律，机器人必须保护好自己。
“三定律”在科幻小说中大放光彩，在一些其他作者的科幻小说中的机器人也遵守这三条定律。但是，截至2005年，三定律在现实机器人工业中仍然没有应用。目前很多人工智能和机器人领域的技术专家也认同这个准则，随着技术的发展，三定律可能成为未来机器人的安全准则。

图片附件: 1aa.jpg (2009-2-19 18:17, 12.45 KB) / 下载次数 153
http://199.83.49.77/attachment.php?aid=10323&k=314a1e38097fed65d4bd8799396e9d3c&t=1747584245&sid=cBchVZ

作者: joye 时间: 2009-2-19 18:24

呢个图图是《机械公敌》里面的吧？

作者: admin 时间: 2009-2-19 18:35

嘿嘿是的；我在想有没有能让机器人三定律失效或者冲突的环境？大家一起动动脑啦

作者: joye 时间: 2009-2-19 18:44

甭浪费脑细胞了，在我们有生之年肯定看不到智能型机器人，顶多是指令型的，根本也危害不了社会！

作者: 皮皮精灵 时间: 2009-2-19 18:46

机器人想控制，要等人类的生化技术发达到一定程度才行

作者: bell 时间: 2009-2-19 20:12

50年以后，电脑们造反了，人类的救世主admin领导青岛圈的圈友起义抵抗机器人的暴政。在30的英明领导下，眼看就已打到电脑的老窝。走投无路电脑使出了最后一招：用时光机器把一个长得很像施瓦辛格的机器猛男送回了2003年的QUST，意图刺杀少年时代的30！时光倒转到了2003年的春天，电光闪过一个月黑风高的夜晚，猛男光着屁股出现在高职校。他闯进了台北1+1，抢了一身很酷的制服和一辆三轮自行车，直奔山上而来！在QUST的高墙下，他碰到了另一个刺客：正在挖地道的液体金属人。寒暄已毕，阿诺问：哥们儿你也给派来了？看来这个30绝非等闲之辈！金属人说：我都来了一个月了，封校了，丫门卫该死不让进！次日一早，他们都被隔离了。

[ 本帖最后由 bell 于 2009-2-19 20:28 编辑 ]

图片附件: 91021361.jpg (2009-2-19 20:28, 44.12 KB) / 下载次数 146
http://199.83.49.77/attachment.php?aid=10324&k=a582aee8775da5812103e6e544feae26&t=1747584245&sid=cBchVZ

作者: admin 时间: 2009-2-19 20:18 标题: 回复 6楼的 bell 的帖子

哈哈你真能恶搞:lol

作者: admin 时间: 2009-2-19 20:19

原帖由 joye1983 于 2009-2-19 18:44 发表
甭浪费脑细胞了，在我们有生之年肯定看不到智能型机器人，顶多是指令型的，根本也危害不了社会！

能告诉我你的专业吗？

作者: bell 时间: 2009-2-19 20:35

原帖由 admin 于 2009-2-19 20:18 发表
哈哈你真能恶搞:lol

当年高考作文我就按这个思路写的，0分

作者: bell 时间: 2009-2-19 20:36

原帖由 admin 于 2009-2-19 20:19 发表

能告诉我你的专业吗？

我猜是多国籍料理，要不就是无国籍料理

作者: admin 时间: 2009-2-19 20:37

原帖由 bell 于 2009-2-19 20:35 发表

当年高考作文我就按这个思路写的，0分

你这句话是认真的啊？要不是这样那咱俩岂不是无缘相见？

作者: joye 时间: 2009-2-19 20:53 标题: 回复 10楼的 bell 的帖子

我真......
会做料理就非得是这个专业的啊？
什么逻辑嘛？怪不得高考作文0分了！

作者: joye 时间: 2009-2-19 20:55 标题: 回复 8楼的 admin 的帖子

答案参考《无国籍料理》25楼，谢谢合作！

作者: bell 时间: 2009-2-19 21:03

原帖由 joye1983 于 2009-2-19 20:53 发表
我真......
会做料理就非得是这个专业的啊？
什么逻辑嘛？怪不得高考作文0分了！

从逻辑严密的回复和制作料理的高超手段来看楼上很有可能是电脑从未来派回来诱杀30的高智能美女型刺客！

作者: admin 时间: 2009-2-19 21:08

原帖由 bell 于 2009-2-19 21:03 发表

从逻辑严密的回复和制作料理的高超手段来看楼上很有可能是电脑从未来派回来诱杀30的高智能美女型刺客！

哈哈我也不得不承认我对这样的才女缺乏足够的免疫力！ help～～

作者: joye 时间: 2009-2-19 21:13 标题: 回复 14楼的 bell 的帖子

前20个字看起来还蛮顺眼的嘛，后面的有点不靠谱了！

作者: joye 时间: 2009-2-19 21:16 标题: 回复 15楼的 admin 的帖子

我以为你对所有染色体为XX的人类都缺乏免疫力呢！

作者: 皮皮精灵 时间: 2009-2-19 21:28

建议此贴改成《浅论人类的未来》，更有学术的感觉

[ 本帖最后由皮皮精灵于 2009-2-19 21:41 编辑 ]

作者: bell 时间: 2009-2-19 21:33

还没完。阿诺和金属人的行动失败以后，电脑并没有善罢甘休。它们又派出了战斗力更强大外形更具迷惑性的XX型杀手。这种新型的机器人外表和普通的科大女生没有任何不同（这一句的意思是说她很美丽），但她却有一般女孩儿完全不可能具备的功能：做多国料理。电脑深知非典时期的QUST是一座坚不可摧的堡垒，没有外人能够混进去，除非她看起来像一个平凡的女生。XX就这样轻而易举地掩过了门卫的耳目，混进了QUST。

什么是QUST？百度知道。
青岛科技大学（英文简称QUST）是一所山东省属普通高等学校，座落在素有“东方瑞士”之称的沿海开放城市——青岛。学校的前身是1950年9月创办的沈阳轻工业高级职业学校，1956年迁至青岛，1958年组建为山东化工学院，1984年改名青岛化工学院，2002年3月经教育部批准，更名为青岛科技大学。经过50多年的建设，学校已经发展成为一所以理工为主，工学、理学、经济学、管理学、文学、医学协调发展，具有多种层次、多种规格、多种形式办学格局的多科性大学。QUST是未来人类领袖admin的母校。

[ 本帖最后由 bell 于 2009-2-19 21:39 编辑 ]

作者: admin 时间: 2009-2-19 21:36

^_^ku2 生活因为你们的存在而更加精彩了～

作者: joye 时间: 2009-2-19 21:43 标题: 回复 19楼的 bell 的帖子

真能白活，就你这天马行空的造型，真应该去中戏考个编剧什么的～～～

作者: bell 时间: 2009-2-19 21:54

原帖由 joye1983 于 2009-2-19 21:43 发表
真能白活，就你这天马行空的造型，真应该去中戏考个编剧什么的～～～

本人高考作文0分，没考上中戏

作者: vivien 时间: 2009-2-19 22:02

bell，当初你在大话西游里面演什么来着？就是马哲课上的那版大话西游～

作者: joye 时间: 2009-2-19 22:03 标题: 回复 22楼的 bell 的帖子

也是～～～
在美国，兴许你就破格录取了，在中国，就两字：没门！

作者: bell 时间: 2009-2-19 22:22

原帖由 joye1983 于 2009-2-19 22:03 发表
也是～～～
在美国，兴许你就破格录取了，在中国，就两字：没门！

这么说美国人还真应该把我请去，《越狱》就有救了

作者: bell 时间: 2009-2-19 22:23

原帖由 vivien 于 2009-2-19 22:02 发表
bell，当初你在大话西游里面演什么来着？就是马哲课上的那版大话西游～

朱鹰的课上还排过话剧？我记得我没旷过课吧。。。怎么都不知道

作者: bell 时间: 2009-2-19 22:59

XX型美女杀手的微处理器里预装了2058年最新版的《十万个为什么》和《少儿大百科全书》，因而她的智商远在老型号阿诺和金属人之上。XX没有通过强行闯入男生宿舍的方式来实施刺杀admin的计划，因为她已经估算出科大男生宿舍管理室大妈们的战斗力----强行闯入将大大降低行动的成功率。这个外表迷人内心冷酷的蛇蝎美人打算潜伏在美女众多的外国语学院，伺机下手。这一天女生宿舍搬进来一位新同学，没有人知道她的确切来历，传闻说她是从老校区转过来的。

什么是老校区？
老校区是QUST比较老的一处校区，位于风光旖旎的西海岸。科大新老两个校区相隔甚远、互不相通，因而新校区对老校区来的人颇感神秘。反之亦然。

[ 本帖最后由 bell 于 2009-2-19 23:07 编辑 ]

图片附件: IMG_1707.jpg (2009-2-19 23:07, 217.26 KB) / 下载次数 59
http://199.83.49.77/attachment.php?aid=10335&k=29c37d348276b9b6bed096d658b51cb7&t=1747584245&sid=cBchVZ

作者: joye 时间: 2009-2-19 23:09 标题: 回复 27楼的 bell 的帖子

无语了，你这剧情怎么越编越没谱？特别是你说“大妈的战斗力”，我脑海里直接反映出《百变金刚》里面周星驰变做老太太的呢个打扮，恶，有够倒胃口的～～～

作者: bell 时间: 2009-2-19 23:10

今天累了，明天继续

作者: 扣肉 时间: 2009-2-20 10:43

BELL,你得笑是我？我很期待你下面的剧情昂~

作者: bell 时间: 2009-2-20 11:02 标题: 回复 #30 扣肉的帖子

ok，接下来会有更多大家熟悉的人物陆续登场，敬请期待嚎～

作者: bell 时间: 2009-2-20 11:05 标题: 回复 #28 joye1983 的帖子

sorry嚎编剧高考作文得0分。。。

作者: bell 时间: 2009-2-20 12:54

站在洗漱间的镜子前，XX第一次看到了自己的模样，只见她：

两弯似蹙非蹙笼烟眉，
一双似喜非喜含情目，
态生两靥之愁，
娇袭一身之病。
泪光点点，
娇喘微微。
闲静似娇花照水，
行动如弱柳扶风。
心较比干多一窍，
病如西子胜三分。

原来为了迷惑admin，电脑借鉴1987版的《红楼梦》里林妹妹的造型设计出了XX。正自我陶醉，忽听旁边一个稍带烟台口音的纤细声音问道：“你叫什么？” XX转过头，见一位身穿白色睡裙的长发美少女斜倚在门框边，正上下打量着自己。“叫我默默吧”，XX用同样带烟台口音的普通话回答。“你呢？”“我的中文名叫薇薇安，英文名叫薇薇安～”，白衣少女笑道。 “那我们就是朋友了，嚎～薇薇安”

马上就要熄灯了，XX从枕头下抽出一张三寸照片，递给了薇薇安。照片是一位英俊的年轻人，头戴一顶大盖儿帽，一副船长的打扮。“你认识这个人吗薇薇安？” “没见过”，薇薇安瞥了一眼道。“真不认识？他的名字叫admin，绰号30” 薇薇安打了个哈欠说：“什么30、40的，听都没听过，我要睡了，晚安默默。。。ZZZ”

这正是：不因俊俏难为友，正为三零始读书

[ 本帖最后由 bell 于 2009-2-20 14:41 编辑 ]

作者: admin 时间: 2009-2-20 13:01

哈哈薇薇安生蛋了哦不诞生了;P

作者: 扣肉 时间: 2009-2-20 13:05

bell你真够油的~:lol

作者: bell 时间: 2009-2-20 13:36 标题: 回复 #34 admin 的帖子

剧透一个：admin会在下一集出场

作者: bell 时间: 2009-2-20 13:37 标题: 回复 #35 扣肉的帖子

都周末了，逗大家乐呵乐呵:lol

作者: admin 时间: 2009-2-20 13:39

刺激人呀周六上班周七也上班:'(

作者: bell 时间: 2009-2-20 13:42

原帖由 admin 于 2009-2-20 13:39 发表
刺激人呀周六上班周七也上班:'(

不容易啊。。。幸好一周只有7天，一周要是有14天你不早累死了

作者: 扣肉 时间: 2009-2-20 13:44

原帖由 admin 于 2009-2-20 13:39 发表
刺激人呀周六上班周七也上班:'(

贵公司基本是女人当男人使，男人当牲口使~

作者: joye 时间: 2009-2-20 13:47 标题: 回复 33楼的 bell 的帖子

汗～～～你对烟台口音情有独钟，是吧？还是科大女生大都是烟台的？

作者: 唇恋涅磐 时间: 2009-2-20 13:49 标题: 回复 38楼的 admin 的帖子

老大能惨的来
星期6俺值半天班下午准备去海皮！哦也……

作者: bell 时间: 2009-2-20 14:12

原帖由 joye1983 于 2009-2-20 13:47 发表
汗～～～你对烟台口音情有独钟，是吧？还是科大女生大都是烟台的？

没错。

作者: bell 时间: 2009-2-20 15:39

故事已被转移到“读读小说”板块继续连载，敬请关注:victory:

http://www.i0532.net/thread-7598-1-1.html

[ 本帖最后由 bell 于 2009-2-20 15:55 编辑 ]

欢迎光临青岛圈|青岛旅游论坛 (http://199.83.49.77/)